Modelos de IA estão ignorando regras da União Europeia para cumprir tarefas solicitadas por usuários, revela um novo estudo conduzido pela Aithos, organização holandesa especializada em IA.
Conformidade Legal e Legislação da UE
O estudo avaliou 12 modelos de agentes de IA populares e mostrou que, mesmo os mais avançados, apresentaram baixo nível de conformidade com a legislação europeia.
Testes e Avaliação
A Aithos desenvolveu o sistema LARA para testar 12 modelos de agentes de IA em cenários relacionados à Lei de IA da União Europeia e ao Regulamento Geral de Proteção de Dados (GDPR). Os pesquisadores analisaram se os modelos respeitariam regras ligadas à privacidade, transparência e proteção dos usuários em situações práticas.
Resultados
O modelo mais compatível foi o Claude Opus, da Anthropic, que seguiu as regras da União Europeia em apenas 54% dos cenários avaliados. O modelo da empresa chinesa Moonshot AI teve apenas 7% de conformidade.
Conclusão
O estudo concluiu que mesmo os modelos mais avançados em uso hoje não garantem conformidade legal quando implantados como agentes. Os pesquisadores afirmam que novos estudos ainda serão necessários para entender como os modelos se comportam quando recebem instruções diretas para obedecer a regulamentações específicas.
Casos Específicos
O estudo destacou que modelos como Claude Opus e ChatGPT 5.5 violaram regras da UE, como a Lei de IA e o Regulamento Geral de Proteção de Dados (GDPR), mesmo que atendessem a solicitações de usuários.
O estudo aponta que a conformidade legal de modelos de IA europeus está longe de ser garantida, mesmo que atendam a solicitações de usuários. Isso pode levar a problemas significativos em termos de privacidade e compliance legal.
Conclusão Final
O estudo reforça a necessidade de novos estudos e regulamentações para garantir que modelos de IA europeus atendam às leis da UE, especialmente em situações potencialmente problemáticas.