Os executivos da OpenAI e da Anthropic estão realizando simulações privadas para avaliar como reagir a um possível desastre global relacionado à inteligência artificial (IA). Essas simulações visam antecipar reações políticas e regulatórias em caso de um incidente grave.
Cenários de Emergência
Os cenários analisados incluem ataques que podem comprometer serviços essenciais, como sistemas financeiros, redes de internet e infraestruturas de abastecimento de água e energia elétrica. As hipóteses vão desde agentes autônomos de IA que escapam dos limites previstos em ambientes de teste até criminosos que exploram modelos disponíveis ao público para executar ataques virtuais.
Consequências Políticas e Legais
A preocupação não se restringe a situações hipotéticas. Um ataque recente contra dois bancos da Coreia do Sul teria usado agentes autônomos e ferramentas de IA, como o DeepSeek e o Claude Code, para encontrar vulnerabilidades e comercializar dados roubados. O episódio reforça o temor de que sistemas que conseguem executar tarefas complexas com pouca intervenção humana ampliem as possibilidades de ataques cibernéticos.
Medidas de Contingência
Os executivos também se preocupam com as consequências políticas de um incidente de grande escala. A avaliação é de que uma crise poderia aumentar a pressão por restrições ao desenvolvimento de IA e colocar líderes, como Sam Altman da OpenAI e Dario Amodei da Anthropic, no centro das críticas públicas.
As simulações também buscam antecipar possíveis medidas do Congresso dos Estados Unidos. O plano inclui sessões de esclarecimento com congressistas norte-americanos antes que um desastre provoque indignação popular e acelere a aprovação de leis rigorosas. A intenção é apresentar os riscos e as possíveis respostas com antecedência, para que o setor tenha mais influência nas discussões sobre a regulamentação da tecnologia.
Entre as medidas discutidas estão a suspensão do desenvolvimento de modelos avançados, a proibição de sistemas superinteligentes e a exigência de um mecanismo de desligamento para ferramentas de IA. Essa última alternativa, porém, enfrenta dúvidas sobre sua viabilidade, especialmente diante da dificuldade de interromper sistemas distribuídos por diferentes plataformas e infraestruturas.
A tarefa também é complicada pela presença crescente da IA em atividades econômicas e serviços essenciais. Assim, as restrições abrangentes poderiam afetar empresas e operações que já dependem desses sistemas, com consequências financeiras e operacionais.
Outro obstáculo é a distribuição de modelos de IA com código aberto ou disponíveis para download. Depois que um sistema é publicado, seus criadores têm menos controle sobre as aplicações desenvolvidas por terceiros, o que dificulta impedir usos maliciosos.
Conclusão
Os executivos da OpenAI e da Anthropic estão se preparando para desastres de IA, realizando simulações para avaliar reações a possíveis incidentes. A preocupação é com as consequências políticas e legais, bem como com as medidas de contingência que podem ser adotadas.