Nesta sexta-feira (17), o gabinete do procurador municipal de São Francisco enviou notificações às empresas Apple e Google para que removam de suas lojas 13 aplicativos de troca facial associados à criação de imagens de nudez geradas artificialmente sem autorização das pessoas retratadas. A medida visa ferramentas que permitem alterar fotos de pessoas com inteligência artificial para produzir conteúdos sexualizados.
Problema
A iniciativa ocorre após investigações apontarem que aplicativos apresentados como ferramentas de edição de imagem podem ser usados para produzir deepfakes de teor sexual, afetando principalmente mulheres e meninas. As empresas são cobradas por falhas de controle sobre aplicativos.
Apple e Google
As cartas enviadas às duas empresas foram assinadas pelo procurador municipal de São Francisco, David Chiu, que afirmou que a criação de imagens íntimas sem consentimento representa uma prática ilegal e prejudicial. De acordo com ele, Apple e Google precisam impedir que seus ambientes digitais sejam utilizados para facilitar abusos. As empresas afirmaram que possuem regras contra pornografia, assédio e conteúdos abusivos em suas plataformas.
Ação
Apple informou que já removeu três dos aplicativos indicados pela prefeitura e iniciou procedimentos para encerrar as contas dos desenvolvedores envolvidos. A empresa acrescentou que outros criadores poderão ser excluídos caso não corrijam violações identificadas. O Google declarou que retirou centenas de aplicativos com recursos de “nudificação” por descumprirem suas políticas. A companhia informou ainda que suspendeu ferramentas semelhantes e restringiu termos de busca relacionados a esse tipo de serviço dentro da loja de aplicativos.
Conclusão
A prefeitura de São Francisco afirmou que continuará avaliando medidas legais contra empresas que permitirem a circulação dessas ferramentas. O objetivo declarado pelo órgão é pressionar as plataformas a reforçarem seus mecanismos de análise antes da publicação de novos aplicativos.