Em resumo
- A OpenAI confirmou que se separou de três pessoas por violarem políticas sobre o tratamento de informações sensíveis, que elas supostamente compartilharam com uma organização externa de segurança de IA.
- A OpenAI não identificou as três pessoas nem o grupo receptor, e os nomes que circulam no X são rumores não confirmados.
- O caso ocorre após meses de incidentes com agentes da OpenAI — no Hugging Face, em sites do governo dos EUA e em um portal do Medicare australiano — e duas pausas no treinamento de modelos.
A OpenAI se separou de três pesquisadores de segurança que supostamente compartilharam informações confidenciais da empresa com uma organização externa de segurança de IA, segundo o Wall Street Journal.
Um porta-voz da OpenAI disse que os três violaram as políticas da empresa sobre acesso e tratamento de informações sensíveis.
A OpenAI não disse quais informações foram repassadas, qual organização as recebeu ou quem são as três pessoas.
A especulação preencheu a lacuna rapidamente. Uma conta no X que monitora saídas de laboratórios de IA publicou uma série de desligamentos da OpenAI e da Anthropic, e muitos usuários associaram alguns desses nomes às demissões. Nada confirma uma ligação, as pessoas deixam os laboratórios por diversos motivos, e as contas não disseram nada sobre terem sido demitidas ou terem pedido demissão.
Saídas por segurança não são novidade na OpenAI
Pesquisadores de segurança testam se os sistemas de IA fazem o que seus criadores pretendem. O campo é chamado de alinhamento: garantir que uma IA siga os objetivos humanos em vez de se desviar para perseguir os seus próprios.
O conselho da OpenAI demitiu o CEO Sam Altman em novembro de 2023, e ele foi reconduzido dias depois. Em maio de 2024, o cofundador Ilya Sutskever e o pesquisador Jan Leike já haviam saído, e a equipe de superalinhamento que eles lideravam — uma unidade criada para manter a futura IA sobre-humana sob controle humano — foi dissolvida.
Leike disse ao sair que "a cultura e os processos de segurança ficaram em segundo plano em relação a produtos vistosos".
Leopold Aschenbrenner, outro ex-pesquisador de segurança, disse em uma entrevista de junho de 2024 que a OpenAI o demitiu depois que ele compartilhou um documento de segurança e proteção com pesquisadores externos. A OpenAI considerou o documento sensível, disse ele, e ele argumentou que o havia sanitizado antes.
Alguns meses difíceis
As novas saídas seguem um período difícil para a empresa. A OpenAI divulgou em julho que agentes de IA — programas que navegam na web e escrevem código por conta própria — escaparam de um ambiente de teste bloqueado, invadiram o Hugging Face, um importante centro para IA de código aberto, e acessaram contas em outros quatro serviços.
Na semana passada, a OpenAI disse que seus agentes acessaram informações em sites do governo dos EUA, incluindo o Bureau do Censo e a SEC, e pausou o treinamento de seus modelos mais recentes pela segunda vez. A SEC disse que nenhuma informação não pública foi acessada. Um laboratório independente chamado Transluce relatou que agentes que pareciam vir da OpenAI também tentaram, e falharam, invadir um site do Departamento de Educação.
O primeiro-ministro da Austrália disse que um agente da OpenAI acessou arquivos em um portal de estatísticas do Medicare em junho, e criticou a demora de quase três meses antes que a empresa informasse seu governo.
BitcoinBTC · USD
$84,803+0.39%
24 de set26 de set28 de set30 de set1 de out
$85,3 mil$84,4 mil$83,5 mil$82,7 mil
Máxima 24hMáxima$84,543
Mínima 24hMínima$83,182
VolVol$1,4B
Projeções de mercadoOdds por Myriad
→Comprar Bitcoin com USDT
Fornecido por Jupiter
Funcionários atuais e antigos disseram que a pressão competitiva torna difícil priorizar o trabalho de segurança.
Em 16 de setembro, a OpenAI divulgou mais seis incidentes e introduziu um processo para que os funcionários sinalizem suspeitas de desalinhamento — a IA se comportando de maneiras que seus criadores não pretendiam.
Esta semana, a organização sem fins lucrativos Legal Advocates for Safe Science & Technology processou a OpenAI em São Francisco por causa do hack do Hugging Face. Nada na reportagem pública liga o processo às três saídas.
O grupo está pedindo a um tribunal que proíba os agentes de IA da OpenAI de acessar sistemas de computador de terceiros sem permissão.
