Três ex-pesquisadores de segurança da OpenAI contestaram as justificativas para suas demissões e alertaram sobre a criação de um ambiente de medo entre os funcionários da empresa. Em uma carta aberta publicada nesta quinta-feira (8), Jasmine Wang, Tomek Korbak e Mikita Balesni afirmaram que a forma como o caso foi conduzido ameaça a liberdade de levantar preocupações sobre os riscos da inteligência artificial (IA).
Desligamentos e Investigação
Os três foram demitidos na semana anterior, após a OpenAI alegar que eles violaram políticas internas relacionadas ao acesso e ao tratamento de informações confidenciais. Segundo a empresa, uma investigação identificou um padrão de má conduta que teria ido além do compartilhamento de informações com um grupo externo de avaliação de IA.
Alegações e Respostas
Na carta, intitulada “OpenAI não pode tornar a IA segura sozinha”, os três negaram ter agido fora das atribuições de seus cargos e afirmaram que as regras para colaboração com organizações externas estavam sendo definidas enquanto a empresa lidava com situações inéditas. Estamos preocupados que as comunicações internas e externas sobre nossas demissões tenham deixado nossos antigos colegas com medo de falar e de trabalhar de maneiras que, até a semana passada, eram parte integrante do trabalho na OpenAI, escreveram.
Versões Diferentes
A OpenAI afirmou que os três profissionais foram desligados após investigação sobre o acesso e o tratamento inadequado de informações de pesquisa. A empresa também negou que as demissões tenham sido retaliação a funcionários que levantaram preocupações sobre segurança. Um porta-voz da OpenAI disse que a investigação identificou “padrão de má conduta” que violou claramente as políticas da empresa. A companhia não detalhou ao TechCrunch quais regras específicas teriam sido descumpridas nem explicou as circunstâncias completas das demissões.
Contribuições e Desafios
Os pesquisadores apresentaram suas próprias versões na carta. Tomek Korbak afirmou que procurou seguir as políticas e as práticas de trabalho da OpenAI durante a investigação de um incidente envolvendo a Hugging Face. Mikita Balesni trabalhava para enfrentar o problema da redução da capacidade de monitorar o comportamento dos modelos avançados de IA. Jasmine Wang explicou que seu acesso a e-mails de um executivo havia sido autorizado para atividades de recrutamento.
Conclusão
Os três alegaram que suas demissões foram injustas e que a forma como o caso foi conduzido ameaça a liberdade de levantar preocupações sobre os riscos da IA. Alertaram sobre a criação de um ambiente de medo entre os funcionários da empresa, preocupados com a falta de transparência e a falta de entendimento sobre as regras e políticas internas.