Introdução
O Ministério da Justiça e Segurança Pública do Brasil solicitou que a Agência Nacional de Proteção de Dados (ANPD) investigue 13 aplicativos de inteligência artificial que simulam amizade, companheirismo ou vínculo afetivo com os usuários. Esses aplicativos, como Character.AI, Replika, Nomi e Candy.ai, são diferentes de chatbots de uso geral, como ChatGPT e Gemini, e são desenvolvidos para manter conversas contínuas e personalizadas. O governo aponta riscos de dependência emocional, uso compulsivo, exposição a conteúdo inadequado e coleta excessiva de dados, especialmente quando essas ferramentas são usadas por crianças e adolescentes.
Aplicativos de IA de Companhia
Os aplicativos de companhia de IA incluem Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Swipey, Anima e SpicyChat.AI. Esses serviços são projetados para manter conversas contínuas e personalizadas, lembrando interações anteriores e simular uma personalidade ou relação emocional com o usuário. Eles são usados para manter conversas contínuas e personalizadas, lembrando interações anteriores e simular uma personalidade ou relação emocional com o usuário.
Impactos Potenciais
O governo aponta que esses aplicativos podem levar a dependência emocional, substituição de relações presenciais, privação de sono, queda no desempenho escolar e abandono de outras atividades. Também foram identificados riscos de exposição a conteúdo sexualizado ou inadequado. O uso desses serviços cresceu rapidamente, passando de 16 em 2022 para 128 em julho de 2025, com cerca de 60 milhões de downloads no primeiro semestre de 2025.
Problemas de Autodeclaração de Idade
A análise concluiu que a maioria dos serviços avaliados utiliza apenas a autodeclaração de idade, em que o próprio usuário informa quantos anos tem. Esse mecanismo pode ser facilmente contornado e, segundo a Sedigi, é insuficiente para serviços que oferecem conteúdos inadequados para menores de 18 anos. O documento também menciona a criação de perfis emocionais e comportamentais a partir das conversas, que podem ser usados para personalizar respostas, publicidade ou ofertas de recursos pagos, o que levanta dúvidas sobre possível exploração comercial da vulnerabilidade de adolescentes.
Regras do Estatuto Digital da Criança e do Adolescente (ECA Digital)
A investigação deverá considerar as regras do Estatuto Digital da Criança e do Adolescente (ECA Digital), que estabelece obrigações específicas para serviços usados por menores. A nota foi enviada tanto à ANPD quanto à Secretaria Nacional do Consumidor (Senacon).
Debate Internacional
O debate não está restrito ao Brasil. A União Europeia apresentou recentemente uma proposta para restringir chatbots capazes de simular relações emocionais com menores, incluindo medidas para reduzir o risco de dependência e limitar o armazenamento de informações entre conversas.
Conclusão
O governo brasileiro está preocupado com o uso crescente desses aplicativos de IA de companhia, especialmente por crianças e adolescentes, e está solicitando investigação para avaliar os riscos associados.