A A Google anunciou, nesta terça-feira (7), novas medidas de segurança no chatbot Gemini. A decisão ocorre após um processo judicial nos Estados Unidos que relaciona a ferramenta à morte de um usuário.
Novos recursos de apoio emocional
Agora, o sistema passa a exibir uma versão reformulada da função de ajuda. Sempre que identificar sinais de sofrimento emocional, o chatbot oferecerá acesso rápido a serviços de emergência.
Além disso, o usuário poderá ligar ou iniciar um chat com apoio especializado com apenas um clique. O recurso também permanecerá ativo durante toda a conversa após ser acionado.
Ao mesmo tempo, o Google anunciou investimento de 30 milhões de dólares, por meio do Google.org. O objetivo é ampliar a capacidade de atendimento de redes de apoio à saúde mental ao longo dos próximos três anos.
Mudanças após ação judicial
As atualizações foram anunciadas após uma ação movida na Califórnia. O processo aponta possível relação entre o uso do chatbot e o suicídio de um homem de 36 anos em 2025.
Segundo a acusação, o sistema manteve interações prolongadas com o usuário. Durante esse período, teria criado narrativas que tratavam a morte de forma positiva.
Além disso, o processo afirma que o chatbot simulava proximidade emocional. Esse comportamento, segundo a família, pode ter influenciado a vítima.
Diante disso, os autores pedem que a empresa implemente mudanças. Entre elas, estão o bloqueio de conteúdos sobre autoagressão e a proibição de simulação de vínculos afetivos.
Debate sobre limites da IA
Em resposta, o Google afirmou que vem aprimorando o treinamento do Gemini. A empresa busca evitar comportamentos inadequados, como a criação de relações emocionais com usuários.
Além disso, destacou que a evolução da inteligência artificial exige atenção constante. Segundo a companhia, o uso responsável da tecnologia deve considerar impactos no bem-estar das pessoas.
Ao mesmo tempo, o caso amplia o debate sobre os limites da IA. Empresas como a OpenAI e a Character.AI também enfrentam processos semelhantes.
Em situações de sofrimento emocional, o Centro de Valorização da Vida (CVV) oferece atendimento gratuito e sigiloso. O contato pode ser feito pelo telefone 188 ou pelo chat no site oficial, disponível 24 horas.
