A Meta permitiu a publicação de mais de 50 anúncios com imagens de abuso sexual infantil geradas por inteligência artificial (IA), segundo uma investigação do grupo independente Tech Transparency Project (TTP). As campanhas foram exibidas no Facebook, Instagram, Messenger e Threads entre novembro do ano passado e o início de agosto e alcançaram usuários nos Estados Unidos, Reino Unido e em mais de uma dezena de países da Europa.
Anúncios Promoviam Ferramentas de Nudify
De acordo com a investigação, parte dos anúncios promoviam aplicativos de nudify, ferramentas que utilizam IA para criar imagens falsas de nudez , , enquanto outros continham imagens de menores acompanhadas de mensagens de conotação sexual ou direcionavam usuários para serviços que geravam pornografia por inteligência artificial.
Anúncios Aprovados pela Meta
O TTP afirma que esta é a segunda vez, em poucas semanas, que anúncios relacionados à exploração sexual infantil são encontrados nas plataformas da Meta. Publicidade passou pela revisão da Meta, que não realizou esforços para esconder o que promoviam. Os registros da biblioteca pública de anúncios da Meta mostram que as campanhas permaneceram ativas por vários dias. Algumas eram direcionadas exclusivamente ao público masculino.
Novas Campanhas Após Investigação
Os pesquisadores localizaram inicialmente cerca de duas dezenas de anúncios. No entanto, horas antes da publicação da reportagem da WIRED, encontraram aproximadamente outros 30 anúncios semelhantes. Segundo o TTP, parte dessas novas campanhas havia sido publicada depois que a revista entrou em contato com a Meta para pedir esclarecimentos, e algumas ainda estavam sendo exibidas aos usuários naquele momento.
Ação da Meta
A Meta retirou os anúncios de sua biblioteca pública por violarem suas políticas sobre exploração sexual infantil, nudez e atividade sexual. Em nota, a empresa afirmou que combate esse tipo de conteúdo de forma agressiva, e que parte das campanhas foi publicada antes da implementação de novas ferramentas de IA destinadas a identificar anúncios que violam suas políticas já no momento do envio.
Proteção contra Anúncios de Abuso
A Meta afirma que todos os anúncios passam por um processo de revisão antes de serem publicados, realizado principalmente por sistemas automatizados. Suas políticas proíbem expressamente conteúdos relacionados à exploração sexual infantil, além de anúncios que contenham nudez, atividade sexual ou imagens sexualmente sugestivas.
Conclusão
A investigação levanta dúvidas sobre a eficácia dos sistemas de revisão de anúncios da Meta, e chama atenção para a necessidade de melhorar a detecção de conteúdos de abuso sexual infantil gerados por IA.