A OpenAI anunciou a implementação de uma marca d’água invisível em textos gerados pelo ChatGPT e pelo Codex na União Europeia, em conformidade com as regras de transparência do EU AI Act. Esta medida visa garantir que os conteúdos produzidos por inteligência artificial possam ser facilmente identificados por outros sistemas.
Marca d’Água Invisível
A tecnologia será aplicada a usuários do ChatGPT e do Codex em todos os planos na União Europeia. Para desenvolvedores que utilizam a API da OpenAI, a marca d’água estará disponível globalmente para determinados modelos a partir desta segunda-feira, mas ficará desativada por padrão. A empresa afirmou que não pretende transformar o recurso em um padrão global neste primeiro momento.
Detecção de Conteúdos
A tecnologia, chamada textGrain, altera de forma sutil as escolhas de palavras feitas pelo modelo, criando um padrão estatístico que pode ser identificado por uma ferramenta específica de detecção. A marca d’água não identifica o usuário e não apontou mudanças significativas no desempenho dos modelos quando o recurso está ativado.
Limitações e Considerações
A OpenAI reconhece que a tecnologia possui limitações. Em um dos testes, a substituição de 10% das palavras por sinônimos fez a taxa de detecção cair de aproximadamente 92% para 66%. A empresa também afirma que textos curtos, respostas de matemática e conteúdos traduzidos são mais difíceis de identificar. A companhia também ressalta que o sinal não permite determinar quanto de participação humana houve na produção do texto. A detecção pode indicar que um sistema da OpenAI gerou ou processou parte de um conteúdo, mas não revela quanto de julgamento, edição ou criatividade humana foi empregado.
Limitações da Marca d’Água
A marca d’água não comprova autoria ou responsabilidade. Ela não determina quem é o proprietário do texto, se o uso do conteúdo é legal ou quem deve ser responsabilizado por ele. O sistema também não verifica se uma informação é verdadeira, enganosa, prejudicial ou apresentada no contexto correto. Para a OpenAI, essas limitações precisam ser consideradas na interpretação dos resultados de detecção.
Conclusão
A OpenAI decidiu limitar o acesso inicial ao detector de marcas d’água a pesquisadores aprovados e organizações especializadas. A ferramenta informará se identificou uma marca d’água da OpenAI, mas não revelará o usuário, os prompts utilizados ou as conversas relacionadas ao conteúdo. A empresa também planeja disponibilizar a tecnologia em código aberto para que outras organizações possam desenvolver soluções baseadas nela.