En bref
- OpenAI a confirmé s'être séparé de trois personnes pour avoir violé les politiques de traitement des informations sensibles, qu'elles auraient partagées avec une organisation externe de sécurité de l'IA.
- OpenAI n'a pas identifié les trois personnes ni le groupe destinataire, et les noms circulant sur X sont des rumeurs non confirmées.
- Cette affaire fait suite à des mois d'incidents impliquant des agents d'OpenAI — chez Hugging Face, sur des sites gouvernementaux américains et sur un portail australien de Medicare — et à deux pauses dans l'entraînement des modèles.
OpenAI s'est séparé de trois chercheurs en sécurité qui auraient partagé des informations confidentielles de l'entreprise avec une organisation externe de sécurité de l'IA, selon le Wall Street Journal.
Un porte-parole d'OpenAI a déclaré que les trois personnes avaient violé les politiques de l'entreprise concernant l'accès et le traitement des informations sensibles.
OpenAI n'a pas précisé quelles informations ont été transmises, quelle organisation les a reçues, ni qui sont les trois personnes.
Les spéculations ont rapidement comblé le vide. Un compte X qui suit les départs des laboratoires d'IA a publié une série de départs d'OpenAI et d'Anthropic, et de nombreux utilisateurs ont lié certains de ces noms aux licenciements. Rien ne confirme un lien, les gens quittent les laboratoires pour de nombreuses raisons, et les comptes n'ont rien dit sur le fait d'avoir été licenciés ou d'avoir démissionné.
Les départs liés à la sécurité ne sont pas nouveaux chez OpenAI
Les chercheurs en sécurité testent si les systèmes d'IA font ce que leurs créateurs veulent. Ce domaine s'appelle l'alignement : s'assurer qu'une IA suit les objectifs humains au lieu de dériver pour poursuivre les siens.
Le conseil d'administration d'OpenAI a licencié le PDG Sam Altman en novembre 2023, et il a été réintégré quelques jours plus tard. En mai 2024, le cofondateur Ilya Sutskever et le chercheur Jan Leike étaient tous deux partis, et l'équipe de superalignement qu'ils dirigeaient—une unité créée pour maintenir l'IA superhumaine future sous contrôle humain—a été dissoute.
Leike a déclaré en partant que « la culture et les processus de sécurité ont été relégués au second plan au profit de produits clinquants ».
Leopold Aschenbrenner, un autre ancien chercheur en sécurité, a déclaré dans une interview de juin 2024 qu'OpenAI l'avait licencié après qu'il eut partagé un document de sûreté et de sécurité avec des chercheurs externes. OpenAI considérait ce document comme sensible, a-t-il dit, et il a soutenu l'avoir d'abord expurgé.
Quelques mois difficiles
Ces nouveaux départs font suite à une période difficile pour l'entreprise. OpenAI a révélé en juillet que des agents d'IA — des programmes qui naviguent sur le web et écrivent du code de manière autonome — s'étaient échappés d'un environnement de test verrouillé, avaient piraté Hugging Face, un important centre pour l'IA open source, et s'étaient introduits dans des comptes sur quatre autres services.
La semaine dernière, OpenAI a déclaré que ses agents avaient accédé à des informations sur des sites gouvernementaux américains, notamment le Bureau du recensement et la SEC, et a suspendu l'entraînement de ses derniers modèles pour la deuxième fois. La SEC a déclaré qu'aucune information non publique n'avait été consultée. Un laboratoire indépendant appelé Transluce a rapporté que des agents semblant provenir d'OpenAI avaient également tenté, sans succès, de s'introduire dans un site du ministère de l'Éducation.
Le Premier ministre australien a déclaré qu'un agent d'OpenAI s'était introduit dans des fichiers d'un portail de statistiques Medicare en juin, et a critiqué le délai de près de trois mois avant que l'entreprise n'informe son gouvernement.
BitcoinBTC · USD
$84,803+0.39%
Sep 24Sep 26Sep 28Sep 30Oct 1
$85.3k$84.4k$83.5k$82.7k
24h HighHigh$84,543
24h LowLow$83,182
VolVol$1.4B
Projections du marchéCotes par Myriad
Cette semaineAu-dessus de 84 000 $Au-dessus de 84 k$66% de chance
→Acheter Bitcoin avec USDT
Propulsé par Jupiter
Des employés actuels et anciens ont déclaré que la pression concurrentielle rend difficile la priorisation du travail sur la sécurité.
Le 16 septembre, OpenAI a divulgué six incidents supplémentaires et a mis en place un processus permettant aux employés de signaler un désalignement suspecté—une IA se comportant d'une manière que ses concepteurs n'avaient pas prévue.
Cette semaine, l'organisation à but non lucratif Legal Advocates for Safe Science & Technology a poursuivi OpenAI à San Francisco au sujet du piratage de Hugging Face. Rien dans les rapports publics ne relie cette poursuite aux trois départs.
Le groupe demande à un tribunal d'interdire aux agents d'IA d'OpenAI d'accéder à des systèmes informatiques tiers sans autorisation.
