A cultura na indústria da inteligência artificial quebrou. Isso é o que escreveu David Robinson em um editorial publicado na The Atlantic nesta semana.
Por Que Robinson Importa
Robinson era quem escrevia os relatórios de segurança que acompanhavam grandes lançamentos de modelos de IA da OpenAI, desenvolvedora do ChatGPT.
Salvaguardas de Nível Nuclear
Para Robinson, a IA precisa de salvaguardas de nível nuclear. Ele escreveu: 'Diante dos riscos atuais, os laboratórios de ponta precisam operar como usinas nucleares ou aeroportos movimentados, com camadas de redundância e um planejamento cuidadoso e demorado, para que o erro humano, ocasional e inevitável, não abra caminho para um desastre'.
O Vale do Silício e a Indústria de IA
O Vale do Silício tem operado com 'extrema confiança' e 'sprints perpétuos', construindo modelos maiores e melhores com 'otimismo irrestrito' que ignora ou subestima problemas em potencial.
Alertas de Ex-Profissionais de IA
Pedro Spadoni, um jornalista formado pela Universidade Metodista de Piracicaba, escreveu sobre o êxodo de profissionais de IA que deixaram seus cargos em empresas de destaque no setor de IA. Alertas adicionais vêm de pesquisadores e profissionais de segurança, incluindo Jacob Coxon, Robert O'Callahan, Bilal Chughtai, Josh Engels do Google DeepMind, e Joe Benton da Anthropic.
Conclusão
Robinson alerta que a indústria da IA precisa de salvaguardas de nível nuclear para prevenir desastres humanos. A cultura da IA quebrou, e é hora de a indústria reconhecer e agir sobre esses riscos.