Autoridades de Nova York anunciaram a derrubada de 12 sites que hospedavam e comercializavam pornografia deepfake, produzida com inteligência artificial (IA). As plataformas exibiam imagens e vídeos falsos de pessoas famosas, incluindo atrizes, políticos, atletas, musicistas, influenciadoras digitais e outras figuras públicas.
Fonte de Dados
Segundo a Promotoria do Distrito de Manhattan, os sites reuniam material envolvendo cerca de 1.200 pessoas, em sua maioria mulheres. As imagens e vídeos mostravam versões geradas ou manipuladas por IA das vítimas participando de atos sexualmente explícitos sem seu consentimento.
Violação de Privacidade
A investigação apontou que as plataformas anunciavam explicitamente serviços de “pornografia deepfake de famosas” e eram utilizadas para publicar e vender esse tipo de conteúdo, além de outros registros íntimos não consensuais. A legislação de Nova York considera ilegal compartilhar fotos ou vídeos reais de pessoas praticando atos sexuais sem consentimento. A mesma regra se aplica quando o conteúdo é criado ou alterado com ferramentas de IA.
Tecnologia Utilizada
As plataformas utilizavam ferramentas de IA para modificar imagens e vídeos e substituir os rostos das pessoas que apareciam originalmente nas gravações pelos rostos das vítimas. Isso resultava em conteúdos hiper-realistas que davam a impressão de que pessoas reais estavam envolvidas em situações sexualmente explícitas, embora nunca tivessem participado delas.
Impacto na Vítima
As vítimas incluíam atrizes, políticos, atletas, musicistas, defensoras de causas sociais e influenciadoras digitais, entre outras pessoas conhecidas pelo público. De acordo com a Promotoria de Manhattan, as empresas responsáveis pelos sites lucravam com a publicação e disseminação de imagens e vídeos sexuais não consensuais, independentemente de o material ter sido produzido com IA.
Consequências e Projetos Futuros
A investigação começou depois que uma das vítimas denunciou um dos sites. O promotor distrital de Manhattan, Alvin Bragg, afirmou acreditar que esta seja a maior operação já realizada para retirar do ar sites dedicados à pornografia ilegal gerada por IA. A Promotoria do Distrito de Manhattan também pretende monitorar as plataformas para evitar que elas voltem ao ar usando outros nomes.
Conclusão
A derrubada de esses sites é um passo importante para proteger a privacidade e a dignidade das vítimas de pornografia deepfake, gerada por inteligência artificial. A investigação sobre esses e outros sites continua, e a Promotoria do Distrito de Manhattan pretende continuar monitorando as plataformas para garantir que elas não retornem ao ar.