A Anthropic, uma empresa de inteligência artificial (IA), enfrentou restrições de exportação devido a preocupações de segurança nacional. Após implementar medidas de segurança, os modelos Fable 5 e Mythos 5 foram liberados para acesso mais amplo.
Restrições de Exportação
Em 12 de junho, a exportação de modelos de IA da Anthropic foi suspensa por razões de segurança nacional. Isso incluía a desativação dos modelos Fable 5 e Mythos 5 para todos os usuários, uma medida que não podia ser revertida sem verificar a nacionalidade de cada usuário em tempo real.
Implementação de Novas Salvaguardas
Com o objetivo de equilibrar o avanço da IA com medidas de proteção, a Anthropic implementou novas salvaguardas. Essas medidas incluíram o bloqueio de comportamentos identificados pelos pesquisadores, encaminhamento de solicitações bloqueadas para o modelo Opus 4.8, criação de padrões para avaliar tentativas de jailbreak e continuidade dos testes de segurança (red-teaming).
Novas Restrições e Revisão
Após pesquisadores da Amazon encontrar uma forma de contornar as proteções do Fable 5, a Anthropic decidiu revisar as restrições. A empresa alertou sobre o risco de novos métodos de jailbreak e prometeu continuar a colaboração com governos e empresas para desenvolver padrões de proteção comuns.
Lançamentos e Futuras Projetos
Em um movimento para manter a parceria com o governo dos Estados Unidos e empresas como Amazon, Microsoft e Google, a Anthropic lançou Claude Sonnet 5 e Claude Science, modelos de IA mais autônomos e de custo menor. Além disso, a empresa continua a desenvolver novos modelos de IA, como a nova IA chinesa que se iguala em testes de cibersegurança ao Mythos da Anthropic.
Conclusão
A retomada de acesso aos modelos de IA da Anthropic é um passo importante em seu compromisso de equilibrar a avanço tecnológico com a proteção necessária. A empresa continua a trabalhar em medidas de segurança e colaboração para garantir que a IA continue a evoluir de forma segura e responsável.