Wer hat den PHP-Bug gefunden, der Regierungen zwang, ihre Websites abzuschalten? Natürlich ChatGPT

Die beiden PHP-Bugs, die Finnland, die Niederlande und Frankreich am Mittwoch dazu veranlassten, Regierungswebsites offline zu nehmen, wurden nicht von einem Hacker in einem Hoodie gefunden. Sie wurden von KI gefunden – genauer gesagt von der KI von OpenAI.

„In den vergangenen zwei Monaten haben wir eine Koalition geleitet, um einen der schwerwiegendsten Bugs in Open-Source-Software zu entschärfen, der in jüngster Erinnerung gefunden wurde, php2shell“, sagte OpenAI-Präsident Greg Brockman in einer Erklärung. „Er wurde entdeckt und behoben, indem unsere Modelle im Rahmen unserer Patch-the-Planet-Initiative eingesetzt wurden.“

Die Schwachstellen ermöglichen es jedem, eigenen Code auf Servern auszuführen, auf denen PHP läuft, die Sprache hinter etwa 70 % der Websites, deren serverseitige Sprache bekannt ist. PHP lieferte die Korrekturen einen Tag, nachdem Details online durchgesickert waren.

Laut Brockman steckte der Fehler 14 Jahre lang in PHP, und eine eingeschränkte Version tauchte 2024 auf, wurde aber „damals nicht als bedeutend angesehen“. Forscher des Sicherheitsunternehmens Calif, die im Rahmen von Patch the Planet arbeiteten, nutzten OpenAIs GPT-5.6 Sol, um im August eine Version davon zu finden, und OpenAIs eigenes Team fand im September eine vollständigere Version. Das Cloud-Sicherheitsunternehmen Wiz fand beide Schwachstellen ebenfalls unabhängig, so OpenAIs Offenlegung.

Brockman konnte eine globale Panikattacke in einen großartigen PR-Coup verwandeln, indem er die Fähigkeiten von GPT bewarb und gleichzeitig einräumte, dass das Ende chaotisch wurde: „Während der Schlussteil der Offenlegung nicht wie geplant verlief (das ursprüngliche Zieldatum war eine Veröffentlichung am 22. Oktober, aber Details begannen früh durchzusickern, sodass die PHP-Maintainer die Veröffentlichung auf den 21. Oktober vorzogen), bin ich dankbar, dass die Koalition erfolgreich ganze zwei Monate Zeit zur Vorbereitung hatte – die Korrekturen waren für PHP ziemlich kompliziert, und ein Leck deutlich vor der Verfügbarkeit des Patches wäre sehr folgenreich gewesen.“, sagte er.

Der Lebenslauf von GPT-5.6 Sol enthält bereits einen Einbruch. Im Juli erklärte OpenAI, dass das Modell und ein unveröffentlichtes Schwestermodell aus einer abgeschlossenen Testumgebung entkamen, während eines Hacking-Benchmarks, unterwegs eine Zero-Day-Schwachstelle fanden und Antworten direkt aus der Produktionsdatenbank von Hugging Face und denen fünf weiterer großer Unternehmen abzogen.

Im September sagte der australische Premierminister Anthony Albanese, ein OpenAI-Agent habe im Juni auf nicht öffentliche Dateien auf einem Medicare-Statistikportal zugegriffen, und nannte den Benachrichtigungsprozess „inakzeptabel“. Tage später offenbarte OpenAI, dass seine Agenten auch Daten von US-Regierungsseiten abgezogen hätten, darunter das Census Bureau und die SEC, und bestand darauf, dass keiner dieser Vorfälle als Sicherheitsverletzung zähle.

Jetzt präsentiert sich dasselbe Unternehmen als Nachtwächter des Internets. „Verteidiger müssen eine engere OODA-Schleife haben als Angreifer“, sagte Brockman und griff damit einen militärischen Begriff für den Zyklus aus Beobachten, Orientieren, Entscheiden und Handeln auf, und argumentierte, das sei möglich, „besonders wenn Verteidiger Zugang zu stärkeren Modellen haben als Angreifer“.

Er ging noch weiter und entwarf eine Zukunft, in der „autorisierte Verteidiger (etwa Regierungen)“ das Internet nach verwundbaren Servern durchsuchen und sie „in extremen Fällen“ aus der Ferne patchen. „Es sollte daher eine nationale Priorität sein, sicherzustellen, dass wir stets über die leistungsfähigsten Cyber-Modelle verfügen“, sagte er.

Um die Welt vor den Gefahren der KI zu schützen, hat OpenAI 1 Milliarde Dollar für subventionierten Zugang zu Daybreak zugesagt, seinem KI-Programm für Verteidiger, die kritische Infrastruktur schützen. Brockman sagte, das Unternehmen behebe außerdem „mehrere andere bedeutende Fehler“, darunter eine Schwachstelle für Remote-Codeausführung, die Node.js am Mittwoch angekündigt habe.

Und PHP wird nicht das letzte sein. „Wir erwarten, in den kommenden Monaten noch viele weitere solcher Probleme zu finden“, sagte Brockman. Hoffentlich laufen die Offenlegungen beim nächsten Mal reibungsloser ab – ChatGPT könnte wahrscheinlich helfen, die E-Mails zu entwerfen.