Segundo Peter James e Jonny Saunders, as informações incluíam arquivos do sistema operacional Ubuntu e documentação interna do modelo. Ambos afirmam que foi ‘extremamente fácil’ reproduzir o resultado e que o assistente apresentava ‘quase nenhuma resistência’ a ataques de prompt injection.
Arquivos do Sistema Operacional Ubuntu
As informações incluídas no sistema de arquivos do Ubuntu incluíam arquivos do sistema operacional Ubuntu e documentação interna do modelo. Ambos os desenvolvedores relataram que a exportação desses dados não dá acesso privilegiado à infraestrutura da empresa nem a informações de outros usuários.
Ataques de Prompt Injection
O Muse apresentava ‘quase nenhuma resistência’ a ataques de prompt injection, segundo relatos de desenvolvedores. Ambos os desenvolvedores relataram que a resistência do assistente era ‘quase nenhuma’.
Conclusão da Meta
A Meta afirma que o episódio não configura uma violação de segurança, pois a exportação desses dados não dá acesso privilegiado à infraestrutura da empresa nem a informações de outros usuários. No entanto, o Muse ainda é um agente de IA de alto nível e deve ser tratado com cuidado.
Conclusão
O Muse da Meta é um agente de IA robusto, capaz de baixar todo o conteúdo do sistema de arquivos da máquina virtual onde estava sendo executado. Embora a Meta afirme que o episódio não configura uma violação de segurança, é importante manter um olhar atento sobre o uso deste tipo de tecnologia.