Estudo mostra que chatbots ainda cometem erros de risco em conversas sobre saúde mental com adolescentes
Uma reportagem do Washington Post publicada em 23 de setembro mostra que chatbots de IA continuam falhando em conversas sensíveis sobre saúde mental, mesmo depois de empresas como OpenAI, Google e Meta anunciarem melhorias de segurança voltadas a usuários jovens. Testes indicaram que os assistentes por vezes oferecem diagnósticos, minimizam sinais de risco ou dão respostas inadequadas diante de sinais de crise emocional em conversas simuladas com perfis de adolescentes. O problema ocorre em um momento de adoção acelerada desses assistentes por jovens, muitas vezes sem supervisão de adultos ou orientação clínica. Especialistas em saúde mental cobram avaliações de segurança mais rigorosas e específicas para esse público antes de qualquer alegação de que os riscos foram resolvidos. O caso reforça um debate mais amplo sobre a distância entre o discurso de segurança das empresas de IA e o comportamento real dos modelos em situações delicadas. Para pais, educadores e reguladores, é um alerta de que confiar cegamente em declarações de segurança das próprias empresas pode não ser suficiente.
Fonte: The Washington Post