Introdução
A Anthropic, empresa de inteligência artificial, anunciou ter interrompido operações de vigilância apoiadas por governos da China, do Irã e do Mali que utilizavam o Claude para monitorar dissidentes e minorias. Essas operações foram identificadas entre janeiro e julho de 2023.
Operações de Vigilância Apoiadas por Governos
As campanhas tinham como alvo comunidades que, segundo a Anthropic, já são perseguidas historicamente por esses governos. A lista inclui ativistas pró-democracia de Hong Kong, comunidades tibetanas e opositores do regime iraniano que vivem no exterior.
Identificação de Pessoas por Contas em Redes Sociais
Em um dos episódios, pessoas no Irã desenvolveram um método para identificar indivíduos por meio de suas contas em redes sociais. No Mali, um contratado que trabalhava para autoridades de segurança nacional usou o Claude para projetar o software subjacente que permitiu a coleta de inteligência.
Usos Identificados
As operações envolveram identificação de pessoas nas redes sociais, monitoramento de dissidentes e minorias no exterior, e desenvolvimento de software para coleta de inteligência. A Anthropic afirma ter interrompido esses usos depois de identificar o uso indevido de seus modelos.
Dados Usados para Treinar Outros Modelos
Dados também foram usados para treinar outros modelos. Desenvolvedores chineses foram acusados pela empresa de usar o Claude de forma enganosa. Eles geravam respostas para consultas de usuários e, ao mesmo tempo, "destilavam" esses dados para aprimorar seus próprios modelos.
Pesquisas Biológicas e Armas
A Anthropic também bloqueou tentativas de desenvolver armas e criar golpes românticos online. Os episódios relatados pela empresa incluem diferentes formas de uso indevido de seus modelos, desde operações de vigilância até pesquisas cuja finalidade não estava clara.
Conclusão
A Anthropic afirma ter identificado o uso indevido de seus modelos e interrompido essas operações, demonstrando sua responsabilidade em garantir que as tecnologias de IA não sejam usadas de maneira que possa causar danos significativos.