Líderes de inteligência artificial (IA) se uniram a especialistas de segurança para exigir que o Congresso dos Estados Unidos crie leis contra ameaças biológicas da IA. A carta conjunta assinada por CEOs de OpenAI, Anthropic e Google DeepMind pede salvaguardas na compra de DNA e RNA sintéticos.
Aumento da Potência da IA
Os sistemas de IA estão melhorando rapidamente, eliminando as barreiras técnicas que antes impediam o acesso a armas biológicas. Segundo a carta, a IA pode facilitar a criação de patógenos por criminosos.
Proposta de Lei
A meta é obrigar fornecedores a checar pedidos e validar a identidade dos compradores. Os executivos alertam que as barreiras de conhecimento que historicamente impediam a obtenção de armas biológicas podem ser significativamente reduzidas.
Manifesto
O manifesto foi organizado por dois centros de estudos e gerou um consenso raro entre progressistas, libertários, pesquisadores e empresários do setor de tecnologia. O movimento ocorre após o presidente Donald Trump assinar um decreto sobre cibersegurança.
Executivos
Os CEOs Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind), Mustafa Suleyman (Microsoft) e Alexandr Wang (Meta Platforms) assinaram a carta. Eles propõem regras rígidas e um programa com o governo.
Críticas
Alguns críticos argumentam que definir quais combinações de genes são perigosas é algo subjetivo e que os custos de conformidade podem prejudicar startups nascentes. Outros defendem que o risco de armas biológicas justifica os gastos exigidos.
Projetos de Lei
Vários projetos de lei foram propostos no Congresso, mas não avançaram. A Casa Branca declarou buscar o equilíbrio entre inovação e segurança.
Conclusão
O movimento de líderes de IA pela criação de leis contra armas biológicas da IA reforça a necessidade de salvaguardas e representa um consenso raro entre diferentes setores da tecnologia e sociedade.