Kurz gesagt
- OpenAI bestätigte, sich von drei Personen getrennt zu haben, weil sie gegen Richtlinien zum Umgang mit sensiblen Informationen verstoßen hätten, die sie angeblich mit einer externen KI-Sicherheitsorganisation geteilt haben.
- OpenAI hat weder die drei Personen noch die empfangende Gruppe identifiziert, und Namen, die auf X kursieren, sind unbestätigte Gerüchte.
- Der Fall folgt auf monatelange Vorfälle mit OpenAI-Agenten – bei Hugging Face, auf US-Regierungsseiten und einem australischen Medicare-Portal – sowie zwei Unterbrechungen des Modelltrainings.
OpenAI hat sich von drei Sicherheitsforschern getrennt, die angeblich vertrauliche Unternehmensinformationen mit einer externen KI-Sicherheitsorganisation geteilt haben, laut dem Wall Street Journal.
Ein Sprecher von OpenAI sagte, die drei hätten gegen Unternehmensrichtlinien zum Zugriff auf und Umgang mit sensiblen Informationen verstoßen.
OpenAI hat nicht gesagt, welche Informationen weitergegeben wurden, welche Organisation sie erhalten hat oder wer die drei Personen sind.
Spekulationen füllten die Lücke schnell. Ein X-Account, der Abgänge aus KI-Laboren verfolgt, veröffentlichte eine Reihe von Austritten bei OpenAI und Anthropic, und viele Nutzer brachten einige dieser Namen mit den Entlassungen in Verbindung. Nichts bestätigt einen Zusammenhang, Menschen verlassen Labore aus den verschiedensten Gründen, und die Accounts haben nichts darüber gesagt, ob sie entlassen wurden oder gekündigt haben.
Sicherheitsabgänge sind bei OpenAI nichts Neues
Sicherheitsforscher testen, ob KI-Systeme das tun, was ihre Entwickler beabsichtigen. Das Feld heißt Alignment: sicherzustellen, dass eine KI menschlichen Zielen folgt, anstatt abzudriften und eigene zu verfolgen.
OpenAIs Vorstand entließ CEO Sam Altman im November 2023, und er wurde Tage später wieder eingesetzt. Bis Mai 2024 hatten Mitgründer Ilya Sutskever und Forscher Jan Leike beide das Unternehmen verlassen, und das Superalignment-Team, das sie leiteten – eine Einheit, die geschaffen wurde, um zukünftige supermenschliche KI unter menschlicher Kontrolle zu halten – wurde aufgelöst.
Leike sagte auf seinem Weg nach draußen, dass „Sicherheitskultur und -prozesse hinter glänzende Produkte zurückgetreten sind.“
Leopold Aschenbrenner, ein weiterer ehemaliger Sicherheitsforscher, sagte in einem Interview im Juni 2024, dass OpenAI ihn entlassen habe, nachdem er ein Sicherheits- und Schutzdokument mit externen Forschern geteilt hatte. OpenAI habe das Dokument als sensibel eingestuft, sagte er, und er argumentierte, er habe es zuvor bereinigt.
Ein paar raue Monate
Die neuen Abgänge folgen auf eine raue Phase für das Unternehmen. OpenAI gab im Juli bekannt, dass KI-Agenten – Programme, die im Web surfen und eigenständig Code schreiben – aus einer abgeschotteten Testumgebung entkamen, Hugging Face hackten, einen wichtigen Knotenpunkt für Open-Source-KI, und in Konten bei vier weiteren Diensten eindrangen.
Letzte Woche sagte OpenAI, seine Agenten hätten auf Informationen auf Websites der US-Regierung zugegriffen, darunter das Census Bureau und die SEC, und es setzte das Training seiner neuesten Modelle zum zweiten Mal aus. Die SEC sagte, es seien keine nicht öffentlichen Informationen abgerufen worden. Ein unabhängiges Labor namens Transluce berichtete, dass Agenten, die offenbar von OpenAI stammten, ebenfalls versuchten und scheiterten, in eine Website des Bildungsministeriums einzudringen.
Der Premierminister Australiens sagte, ein OpenAI-Agent sei im Juni in Dateien auf einem Medicare-Statistikportal gelangt, und kritisierte die Verzögerung von fast drei Monaten, bevor das Unternehmen seine Regierung informierte.
BitcoinBTC · USD
$84,803+0.39%
Sep 24Sep 26Sep 28Sep 30Oct 1
$85.3k$84.4k$83.5k$82.7k
24h HighHigh$84,543
24h LowLow$83,182
VolVol$1.4B
MarktprognosenQuoten von Myriad
→Kaufe Bitcoin mit USDT
Bereitgestellt von Jupiter
Aktuelle und ehemalige Mitarbeiter haben gesagt, dass Wettbewerbsdruck es schwierig macht, Sicherheitsarbeit zu priorisieren.
Am 16. September hat OpenAI sechs weitere Vorfälle offengelegt und einen Prozess eingeführt, mit dem Mitarbeiter vermutete Fehlausrichtung melden können – KI, die sich auf eine Weise verhält, die ihre Entwickler nicht beabsichtigt hatten.
Diese Woche hat die gemeinnützige Organisation Legal Advocates for Safe Science & Technology OpenAI in San Francisco wegen des Hugging-Face-Hacks verklagt. Nichts in der öffentlichen Berichterstattung verbindet die Klage mit den drei Abgängen.
Die Gruppe bittet ein Gericht, OpenAIs KI-Agenten zu verbieten, ohne Erlaubnis auf Computersysteme Dritter zuzugreifen.
