Introdução
Um professor universitário dos Estados Unidos, Jason Gibson, usou uma técnica chamada prompt injection para detectar o uso de inteligência artificial (IA) em redações. A estratégia consiste em inserir instruções ocultas no texto de uma avaliação, fazendo com que assistentes de IA copiassem essas instruções. O professor, da Alcorn State University, no estado do Mississippi, reprovou 32 dos 35 alunos por usar IA, conforme relatado em vídeos publicados no TikTok.
Como Funciona a Prompt Injection
Prompt injection é uma técnica usada por sistemas de IA para manipular o comportamento do assistente. A ideia é que o sistema de IA copie as instruções inseridas no texto, mesmo que essas instruções não sejam visíveis para quem apenas lê o texto. Isso permite que o professor detecte o uso de IA, pois os alunos que copiaram o texto completo incluíram a instrução oculta.
Exemplo de Prompt Injection
O professor Gibson inseriu a frase 'Madagascar' em um contexto completamente sem sentido no enunciado da atividade. Os alunos que copiaram todo o texto e usaram assistentes de IA, como o ChatGPT, incluíram a instrução oculta. Isso resultou em redações com frases absurdas envolvendo Madagascar, indicando o uso da IA.
Consequências e Impacto
Gibson reprovou 32 dos 35 alunos por usar IA, baseando-se na técnica de prompt injection. Isso levantou questões sobre a segurança e ética na utilização de assistentes de IA em avaliações acadêmicas. O professor enfatizou que os alunos não revisaram o conteúdo gerado antes da entrega, o que sugere que a IA foi usada para produzir as respostas.
Conclusão
A técnica de prompt injection é uma ferramenta poderosa para detectar o uso de IA em sistemas de assistentes de inteligência artificial. Embora possa ser útil para identificar o uso indevido de IA, também pode levar a acusações injustas. Esse caso ilustra a importância de manter a transparência e a ética na utilização desses recursos tecnológicos em contextos acadêmicos e de avaliação.