Uma inteligência artificial (IA) não lançada da Anthropic conseguiu identificar falhas de segurança em ambientes amplamente utilizados, como Chrome, Safari, Windows e Linux, e uniu esses defeitos para criar códigos de invasão (exploits) funcionais. A revelação foi feita pelo Frontier Red Team, equipe de segurança da empresa, em um relatório publicado nesta terça-feira (27).
Falhas Identificadas
Os especialistas explicaram que os códigos de ataque foram construídos em laboratório após comandos iniciais dados ao modelo, sem registro de ataques reais explorando essas falhas na internet. Entre os exemplos citados pelos pesquisadores está um experimento em que a tecnologia abriu a calculadora em um computador Mac equipado com o navegador Chrome logo após o carregamento de uma página web, sem qualquer clique adicional por parte do usuário.
Impacto e Correções
A autonomia demonstrada pelo sistema chamou a atenção da comunidade de segurança digital, uma vez que a combinação de várias falhas para invadir um sistema costuma exigir equipes altamente especializadas. No entanto, é difícil saber, ao certo, quanto de trabalho os humanos tiveram nos bastidores, pois a Anthropic não detalhou as etapas do processo e nem revelou qual era o modelo.
Apesar da preocupação gerada, todas as vulnerabilidades relatadas já foram corrigidas pelas empresas responsáveis. A fabricante destacou, em relatório técnico, que a intenção por trás da pesquisa é fortalecer a defesa dos sistemas.
Exemplos de Falhas Corrigidas
O navegador Chrome foi um dos alvos analisados pelos pesquisadores da Anthropic. No sistema da Google, o modelo utilizou quatro falhas diferentes em sequência para conseguir executar comandos fora do ambiente seguro de isolamento do navegador. A empresa corrigiu os problemas na versão 156 do Chrome, liberada em 20 de outubro, e creditou nominalmente os pesquisadores envolvidos, conforme detalhado nas atualizações oficiais.
A falha identificada no Safari permitia que sites mal-intencionados contornassem políticas de segurança para ler dados de outras páginas abertas pelo usuário. A big tech corrigiu a falha no final de junho deste ano e também incluiu os nomes dos pesquisadores da Anthropic nos registros públicos, conforme documentado na página de suporte de segurança da Apple.
Conclusão
A mesma capacidade que permite a uma equipe de segurança encontrar e corrigir uma vulnerabilidade também pode ajudar um agente mal-intencionado a explorá-la. A Anthropic reforçou que o acesso a modelos avançados de IA com capacidades cibernéticas deve ser regulado para auxiliar profissionais de defesa. Para tal ação, a empresa expandiu o programa de verificação de segurança com o objetivo de que equipes de empresas e órgãos governamentais utilizem versões avançadas da tecnologia para auditar códigos e antecipar falhas antes que cibercriminosos possam agir.