A União Europeia (UE) introduziu regras rigorosas para garantir transparência em conteúdos criados por inteligência artificial (IA). O Artigo 50 do AI Act, que entrou em vigor em 2 de agosto, estabeleceu que empresas identifiquem imagens, vídeos e áudios gerados por IA quando puderem ser confundidos com conteúdos reais.
Requisitos de Rotulagem
A regra também abrange determinados textos produzidos ou manipulados por IA sobre assuntos de interesse público, caso não tenham passado por revisão humana ou controle editorial. A medida coloca a UE entre as regiões com regras mais rígidas para identificar conteúdos sintéticos.
Métodos de Rotulagem
A legislação não determina uma tecnologia específica para fazer a identificação. Em vez disso, ela exige que a origem sintética do conteúdo possa ser reconhecida. Assim, empresas de IA podem recorrer a diferentes métodos. Uma das opções são as marcas d'água invisíveis, inseridas em imagens, vídeos ou áudios. O SynthID, do Google, é um exemplo dessa tecnologia. Como o sinal fica incorporado ao próprio conteúdo, ele pode continuar presente depois de algumas alterações, como cortes ou compressão. Outra possibilidade é usar metadados, que registram informações sobre a origem do arquivo. O método é semelhante aos dados EXIF encontrados em fotografias digitais, mas tem uma desvantagem: essas informações podem desaparecer quando o arquivo é editado, convertido ou publicado em determinadas plataformas.
Formas Visuais de Identificação
A UE também estabelece formas visuais de identificação para conteúdos gerados ou modificados por IA. Os rótulos devem aparecer de maneira clara quando o usuário entra em contato com o material. Já em conteúdos artísticos, criativos, satíricos ou de ficção, a exigência é adaptada: o aviso sobre o uso de IA precisa informar o público, mas sem prejudicar a apresentação ou a fruição da obra.
Classificação de Conteúdos
As diretrizes diferenciam conteúdos totalmente gerados por IA daqueles que foram apenas modificados. Entre os exemplos estão: AI: indica que houve participação de IA na criação ou alteração do conteúdo, como em um deepfake com voz ou imagem artificial; AI GENERATED: usado quando o conteúdo foi produzido integralmente por IA, como um vídeo fictício de um político ou uma música criada por IA; AI MODIFIED: identifica conteúdos originalmente feitos por humanos que foram modificados por IA, como uma troca de rosto em uma foto real.
Motivação para a Rotulagem
A principal preocupação é reduzir o impacto de desinformação, golpes e deepfakes. Com modelos de IA cada vez mais capazes de produzir imagens, vozes e vídeos convincentes, fica difícil para uma pessoa identificar sozinha se determinado material é autêntico. A identificação também busca facilitar a rastreabilidade do conteúdo. Em vez de depender apenas da percepção do usuário, plataformas e ferramentas podem usar sinais incorporados ao arquivo ou informações de procedência para verificar se houve participação de IA.
Limitações da Rotulagem
A rotulagem não resolve todos os problemas. Marcas d'água podem ser prejudicadas por alterações no arquivo, capturas de tela, recodificação ou processamento por outros modelos de IA. Também não existe um padrão universal compartilhado entre as empresas de tecnologia. Um sinal de procedência inserido pela ferramenta de uma empresa pode não ser reconhecido pelo sistema de detecção de outra companhia ou por determinada rede social, o que limita a eficácia da rastreabilidade. Esse cenário é conhecido como problema da assimetria: as regras de rotulagem funcionam bem para identificar e catalogar conteúdos sintéticos criados por usuários comuns em plataformas, como OpenAI, Google e Anthropic. Porém, têm eficácia limitada contra campanhas intencionais de desinformação, nas quais os responsáveis podem usar sistemas modificados ou remover as marcações de IA. Outro risco é o chamado efeito bumerangue. Se os usuários começarem a confiar demais nos rótulos, podem interpretar qualquer conteúdo sem identificação como autêntico.
Conclusão
A UE está adotando medidas rigorosas para garantir transparência em conteúdos criados por inteligência artificial. Embora a rotulagem seja uma medida importante, ainda existem limitações e desafios a serem superados para garantir a integridade e a confiabilidade dos conteúdos digitais.