Adolescentes conseguem acessar aplicativos de inteligência artificial que criam imagens íntimas falsas sem consentimento, mesmo com os controles parentais da Apple e do Google ativados. A conclusão é de uma investigação do Tech Transparency Project, divulgada pelo The Guardian.
Testes e Resultados
Para realizar a investigação, a equipe criou quatro contas de teste, duas da Apple e duas do Google. Nas buscas, utilizou termos relacionados à edição de imagens e à geração de vídeos com inteligência artificial. Com esses perfis, conseguiu baixar ferramentas capazes de remover digitalmente roupas ou inserir rostos em corpos nus.
Os pesquisadores utilizaram imagens femininas geradas por IA, sem recorrer a fotografias de mulheres reais. Ainda assim, encontraram aplicativos com classificações etárias inadequadas. Um deles, que anunciava conteúdo sexual explícito, era indicado para crianças a partir de quatro anos.
A versão gratuita permitia inserir rostos em modelos com roupas íntimas, enquanto opções mais explícitas estavam disponíveis mediante pagamento. Os pesquisadores conseguiram contratar uma assinatura usando uma conta de 13 anos sem que o responsável vinculado recebesse um alerta.
Falhas na Fiscalização
A investigação revela que Apple e Google dependem, em grande medida, das classificações etárias fornecidas pelos próprios desenvolvedores. Nos testes, nenhuma das empresas exigiu ou sugeriu autorização parental para baixar os aplicativos identificados.
Consequências e Reações
A descoberta levou a mudanças nas regras da App Store da Apple, que passou a exigir que desenvolvedores previnam e removam imagens íntimas não consensuais. Também reforçou as restrições contra aplicativos que acrescentam funções proibidas depois da aprovação inicial, prática conhecida como bait-and-switch.
O Google informou que suspendeu aplicativos que violavam suas regras e restringiu termos de busca relacionados na loja.
Conclusão
Os resultados mostram que ativar os controles parentais não garante, por si só, que adolescentes fiquem protegidos dessas ferramentas. A classificação etária adequada e a fiscalização contínua das lojas também são necessárias para dificultar o acesso a aplicativos que podem ser usados para produzir imagens íntimas sem consentimento.
A investigação alerta sobre a necessidade de uma fiscalização mais rigorosa e de medidas de segurança para proteger os adolescentes contra esses aplicativos.