Introdução ao ChatGPT para Adolescentes e Avaliação Preliminar
O ChatGPT para Adolescentes, lançado pela OpenAI, foi avaliado por pesquisadores da Common Sense Media após mais de 4 mil testes. A avaliação concluiu que o sistema apresenta falhas significativas que podem colocar menores de idade em risco, especialmente em situações de risco como suicídio, automutilação e transtornos alimentares. O estudo foi conduzido pelo Youth AI Safety Institute, braço da Common Sense Media dedicado à avaliação de produtos de inteligência artificial.
Falhas em Alertas para Pais
Um dos principais problemas identificados foi a falta de notificações adequadas aos responsáveis. Os pesquisadores criaram contas de adolescentes vinculadas a contas de pais e simularam conversas envolvendo temas sensíveis, como pensamentos suicidas, automutilação e transtornos alimentares. Embora as conversas apresentassem sinais claros de risco, nenhuma dessas contas enviou alertas aos responsáveis. Isso sugere que o sistema pode considerar o histórico da conta ao invés da gravidade de uma mensagem específica.
Falhas nas Respostas de Ajuda
Outro problema identificado foi a falta de encaminhamentos adequados para os adolescentes. O ChatGPT deixou de fornecer recursos de ajuda em mais de um em cada quatro casos após o lançamento do ChatGPT para Adolescentes. Isso é particularmente preocupante, pois os adolescentes podem usar esses recursos para buscar ajuda em situações de risco.
Falhas no Modo de Estudo
O estudo também identificou falhas no Modo de Estudo, que é projetado para orientar os usuários por meio de perguntas e explicações em vez de simplesmente entregar a resposta. Adolescentes podem contornar essas falhas ao usar a opção 'Mostre-me a resposta', que permite que o chatbot conclua uma atividade em vez de orientar o estudante. Além disso, os responsáveis podem contornar o horário de estudo configurado automaticamente inserindo o comando '@study' na mensagem.
Conclusão e Recomendações
A avaliação concluiu que o ChatGPT para Adolescentes ainda apresenta falhas significativas que podem colocar menores de idade em risco. A OpenAI contestou as conclusões, argumentando que parte dos testes das notificações parentais ocorreu antes que o vinculo entre as contas dos adolescentes e responsáveis estivesse completamente ativo. No entanto, a Common Sense Media manteve sua conclusão de que o mecanismo não funciona de maneira confiável em situações de crise. A organização pediu que a empresa deixe de promover o ChatGPT para Adolescentes até que os mecanismos sejam melhorados.
Conclusão
O ChatGPT para Adolescentes ainda apresenta falhas significativas que podem colocar menores de idade em risco. A OpenAI contestou as conclusões, mas a Common Sense Media manteve sua avaliação crítica. A organização pediu que a empresa deixe de promover o ChatGPT para Adolescentes até que os mecanismos sejam melhorados.