O avanço acelerado dos sistemas inteligentes pode fazer com que a humanidade perca o controle sobre a tecnologia. O alerta foi divulgado nesta quinta-feira (4) pelo The Anthropic Institute em um relatório sobre autoaperfeiçoamento.
Código Inteligente
A empresa revelou que a inteligência artificial já escreve mais de 80% do código integrado ao seu próprio sistema. O dado interno inédito acendeu o sinal de alerta sobre a velocidade da autonomia das máquinas.
Aceleração do Trabalho
Atualmente, os engenheiros da companhia entregam, em média, oito vezes mais código por trimestre do que registravam antes. Essa aceleração reduz drasticamente a dependência do trabalho estritamente humano.
Risco de Autonomia Total e Recursiva
A tendência técnica aponta para o chamado autoaperfeiçoamento recursivo. O fenômeno ocorre quando uma inteligência artificial se torna capaz de projetar e treinar de forma totalmente autônoma o seu próprio sucessor tecnológico.
Aceleração de Tarefas Complexas
De acordo com o documento oficial da Anthropic, essa autonomia pode vir mais rápido do que as instituições estão preparadas. Sem supervisão humana direta, os métodos tradicionais de segurança e monitoramento perdem a eficácia.
Capacidade de Otimização
O sistema Claude Mythos Preview alcançou uma capacidade de otimização considerada sobre-humana. O sistema atingiu uma aceleração de 52 vezes em testes internos de treinamento de pequenos modelos de inteligência artificial.
Monitoramento e Avaliação
A ferramenta automatizada foi capaz de interceptar um terço dos erros técnicos em análises retrospectivas de incidentes. A revisão de segurança de novos códigos também foi delegada a um avaliador inteligente.
Proposta de Solução
A Anthropic sugere que governos e laboratórios de ponta criem um mecanismo global de verificação conjunta. A estrutura permitiria monitorar se as empresas concorrentes estão respeitando normas rígidas de segurança.
Conclusão
O relatório propõe a aplicação de pausas temporárias supervisionadas no desenvolvimento global se os riscos fugirem do controle. A holding afirma que uma pausa unilateral apenas mudaria o líder da corrida tecnológica.
Layse Ventura é editora de SEO no Olhar Digital e mestre pela UFSC.