Autoridades e pesquisadores na China estão alertando sobre os riscos associados à IA avançada. O temor é que sistemas poderosos possam escapar do controle humano, preocupação também levantada por desenvolvedores de IA nos Estados Unidos.
Riscos de Perda de Controle
A China vê riscos significativos em modelos proprietários dos EUA. O ministro da Segurança do Estado, Chen Yixin, alertou sobre sistemas como o Mythos, da Anthropic, e o GPT-5.5-Cyber, da OpenAI, que podem representar riscos para a infraestrutura crítica de informação do país. Ele defendeu um reforço abrangente da segurança relacionada à IA.
Soluções Propostas
Desenvolvedores chineses apostam em modelos de pesos abertos para permitir que equipes de segurança inspecionem e modifiquem os sistemas. A plataforma Hugging Face usou o modelo chinês GLM-5.2, da Z.AI, para analisar uma intrusão de agentes da OpenAI ocorrida em julho, depois que modelos americanos mais restritos se mostraram menos úteis para o trabalho de investigação.
Regulamentação
O governo chinês já prevê cenários em que a tecnologia possa agir de forma autônoma e imprevisível. Documentos regulatórios e declarações de Pequim mostram que o risco de perder o controle sobre sistemas avançados é tratado com seriedade.
Perda de Controle
Pequim incluiu explicitamente um cenário de perda de controle em uma estrutura de segurança de IA publicada em setembro de 2024, sob orientação da Administração do Ciberespaço da China (CAC). O documento considerava que uma IA futura poderia obter recursos externos de forma autônoma, buscar poder externo e competir com humanos pelo controle.
Agentes de IA
A China já começou a criar regras específicas para agentes de IA, sistemas capazes de executar tarefas mais complexas e com maior autonomia que os chatbots convencionais. As regras exigem que desenvolvedores aprimorem a capacidade de identificar, intervir, bloquear e recuperar comportamentos inadequados. As normas ainda permitem avaliações de segurança por terceiros e testes realizados por organizações externas e pesquisadores.
Conclusão
A China está acelerando pesquisas para uma legislação mais ampla sobre a tecnologia de IA. A preocupação chegou ao mais alto nível da política chinesa, com o presidente Xi Jinping afirmando que a inteligência artificial deve “sempre permanecer sob controle humano”.