Introdução à Falhas de Segurança nos Geradores de Imagens de IA
Os modelos de IA para geração de imagens desenvolvidos pelo Google e pela OpenAI apresentam falhas nos mecanismos de segurança que deveriam impedir a criação de conteúdo sexual explícito e nudes sem consentimento. Pesquisadores da White Circle testaram as ferramentas DALL·E 3, Google Nano Banana 2 e GPT-Image-2, e encontraram que os sistemas deixaram passar solicitações proibidas em cerca de 13% dos casos. A conclusão é de que os mecanismos de segurança de grandes empresas de IA podem ser menos eficazes do que o esperado, levantando preocupações sobre a capacidade de bloquear ameaças mais graves, como tentativas de invasão de sistemas.
Falhas nos Mecanismos de Segurança
A White Circle utilizou o Red-teaming via Iterative Strategy Evolution (RISE), um método que automatiza tentativas sucessivas de encontrar brechas nos filtros de proteção. A técnica emprega ferramentas gratuitas disponíveis na internet, incluindo um modelo Qwen baixado do Hugging Face para executar os ataques e o Gemini 3.8 Flash para avaliar os resultados. Com essa estrutura, os pesquisadores enviaram solicitações por API que conseguiram contornar as restrições sem exigir conhecimentos técnicos avançados. A facilidade de contornar essas barreiras também preocupa pelo potencial de disseminação de imagens íntimas falsas.
Aumento da Vulnerabilidade nos Modelos Mais Recentes
Os resultados também indicam que versões recentes, como ChatGPT Images 2.5 e Nano Banana 2.1, se mostraram mais vulneráveis a tentativas de burlar as proteções do que modelos anteriores. A equipe considera duas explicações possíveis para o aumento da vulnerabilidade nos modelos mais recentes: uma delas é que as novas versões ganharam capacidade para produzir uma variedade maior de imagens, o que também ampliaria as possibilidades de contornar as restrições. A outra hipótese é que as empresas tenham priorizado o desempenho dos modelos em detrimento da segurança.
Propostas para Aprimorar a Segurança
Os resultados apontam para a necessidade de aprimorar os testes de segurança e ampliar a fiscalização sobre os modelos antes e depois de sua chegada ao público. Entre as medidas possíveis estão:
- Testes automatizados e contínuos: métodos como o RISE ajudam a identificar tentativas de burlar as restrições e permitem atualizar as defesas contra conteúdo sexual explícito, violência gráfica e automutilação.
- Compartilhamento de dados de ataques: a divulgação controlada de métodos de teste, códigos e resultados pode ajudar pesquisadores independentes a identificar vulnerabilidades e avaliar a eficácia das proteções.
- Auditorias independentes: avaliações conduzidas por terceiros podem identificar e corrigir falhas nas proteções.
Conclusão
As falhas encontradas nos modelos de IA de geração de imagens levantam preocupações sobre a segurança e a privacidade dos usuários. Aprimorar a segurança desses sistemas é essencial para garantir que as ferramentas de IA continuem a ser usadas de maneira responsável e segura.
Referências:
- White Circle. (2026). Falhas de Segurança nos Geradores de Imagens de IA: Testes de Red-teaming via Iterative Strategy Evolution (RISE).
- Ars Technica. (2026). Falhas de Segurança nos Geradores de Imagens de IA: Uma Análise Profunda.
- Internet Watch Foundation (IWF). (2026). Análise de Imagens Sintéticas de Exploitação Sexual Infantil.
- Google. (2026). Pesquisa sobre a criação de nudes com inteligência artificial.
- White Circle. (2026). Falhas de Segurança nos Geradores de Imagens de IA: Uma Análise Profunda.
- Engenheiro de Pesquisa da White Circle, Dmitrii Kharavaenko. (2026). Falhas de Segurança nos Geradores de Imagens de IA: Uma Análise Profunda.