Autor: Li Jia, Wall Street CN
Heute hat Anthropic „KI-Sicherheit“ zu seinem Kernlabel gemacht, aber nur wenige wissen, dass die Mitbegründerin und Präsidentin des Unternehmens, Daniela Amodei, einst mit ihrem Ehemann Holden Karnofsky eine Gruppe von Plüschtieren benutzte, um Managementfragen zu diskutieren.
Diesen Spielzeugen wurden unterschiedliche Persönlichkeiten gegeben: einige waren speziell dafür verantwortlich, „weniger Meetings zu haben und sich selbst weniger Ärger zu machen“, einige betonten Regeln, Details und Ausführung, und andere waren dafür verantwortlich, Entscheidungsträger daran zu erinnern, Mitgefühl zu bewahren.Wenn Daniela und ihr Ehemann mit einem heiklen Problem am Arbeitsplatz konfrontiert wurden, ließen sie diese virtuellen Charaktere jeweils „ihre Meinung äußern“, um so die Entscheidungen zu simulieren, die verschiedene Arten von Managern treffen könnten.
Diese recht persönliche, ja sogar etwas kindliche Episode ereignete sich in der Zeit, als Daniela noch bei OpenAI arbeitete. Und genau in dieser Zeit entwickelten sie und ihr Bruder Dario Amodei allmählich Meinungsverschiedenheiten mit der Führung von OpenAI: Daniela hatte bei der Arbeit Reibungen mit mehreren Führungskräften, während Dario begann, gegenüber der Unternehmensführung und der Richtung der fortgeschrittenen KI-Entwicklung zunehmend misstrauisch zu werden.
Im Jahr 2020 beschlossen die Geschwister schließlich, OpenAI zu verlassen. Diese Trennung, die später von Insidern als „Scheidung“ bezeichnet wurde, wurde auch zum Ausgangspunkt für die Geburt von Anthropic.
The Atlantic berief sich kürzlich auf das bevorstehende Buch des Journalisten Kevin Roose, „The AGI Chronicles“, um diese wenig bekannte Erfahrung offenzulegen. In einem Interview mit Roose aus dem Jahr 2023 sagte Daniela, diese Methode sei „sehr nützlich für die Analyse verschiedener Persönlichkeitstypen“.
Von der damaligen Bildung eines „Beratungsausschusses“ aus Plüschtieren bis hin zum heutigen Wachstum zu einem KI-Giganten mit Tausenden von Mitarbeitern hat sich Anthropic von einem kleinen KI-Sicherheits-Startup zu einem wichtigen Akteur der Branche entwickelt. Medienberichten zufolge könnte die potenzielle IPO-Bewertung des Unternehmens 2 Billionen US-Dollar erreichen.
Wie wurde aus einer Gruppe von Plüschtieren ein „Beratungsausschuss“?
Diese informelle „Beratungsgruppe“ war nicht einfach ein Scherz, sondern eine Denkweise, die verschiedene Entscheidungsstile simulierte.
Unter ihnen war Jinji eine gelassene Katze, die dazu neigte, Amodeis Arbeitsbelastung zu verringern, etwa unnötige Meetings zu überspringen; der rosa Bär Maura repräsentierte den völlig entgegengesetzten Stil – organisiert, anspruchsvoll und detailorientiert; und der Pandabär namens Beary Bonds war darauf ausgelegt, Diskussionen mehr Mitgefühl und Großzügigkeit zu verleihen.
Wenn sie mit demselben Problem am Arbeitsplatz konfrontiert wurden, ließen das Ehepaar Amodei die durch verschiedene Puppen repräsentierten „Persönlichkeiten“ jeweils separat antworten.
Die eigentliche Funktion dieser Methode lag nicht in den Spielzeugen, sondern darin, Entscheidungsträger vorübergehend aus ihrer eigenen Position herauszuzwingen und das Problem durch eine andere Persönlichkeit neu zu betrachten.
Im Wesentlichen war dies ein kostengünstiges Gedankenexperiment: Ohne echte externe Berater war es dennoch möglich, dasselbe Problem durch die Simulation verschiedener Rollen in unterschiedliche Entscheidungspfade aufzuteilen.
Und fast niemand innerhalb von OpenAI wusste von dieser Methode.
Jenseits der Plüschtiere wurden die Spaltungen innerhalb von OpenAI größer
Gleichzeitig veränderte sich auch die Beziehung zwischen den Amodei-Geschwistern und OpenAI.
Daniela Amodei trat 2018 OpenAI bei, wechselte später in eine Managementposition im technischen Team und hatte Meinungsverschiedenheiten mit mehreren Führungskräften, darunter Greg Brockman und Mira Murati.
Sie und Brockman standen sich einst nahe. Brockman hatte auf ihrer Hochzeit 2017 mit Holden Karnofsky gesprochen, doch danach verschlechterte sich ihre Arbeitsbeziehung allmählich.
Dario Amodei hingegen konzentrierte sich zunehmend auf die Führung von OpenAI und die Richtung der Entwicklung fortgeschrittener KI und wurde zunehmend misstrauischer gegenüber Sam Altman und Brockman.
Gleichzeitig begann er, privat Aktivitäten mit einer Gruppe von Forschern zu organisieren, die den Risiken leistungsstarker KI-Systeme größere Bedeutung beimessen wollten. Außerhalb der normalen Unternehmensstruktur kommunizierten diese Personen und hielten Meetings ab, und einige Kollegen nannten diese Fraktion „Darios kleiner Kreis“.
Interne Konflikte erreichten schließlich ein Stadium, das nicht mehr vermieden werden konnte.
Im Jahr 2020 begann Dario, ein Team zusammenzustellen, das bereit war, OpenAI zu verlassen und fortgeschrittene KI-Forschung unter einer anderen Sicherheitsphilosophie voranzutreiben. Daniela wurde eine der zentralen Figuren bei diesem Weggang und war dafür verantwortlich, mit OpenAI zu verhandeln, während das Team sich auf den Austritt vorbereitete.
Diese Trennung wurde später von Eingeweihten privat als „Scheidung“ bezeichnet.
Ein Weggang brachte einen KI-Giganten hervor
Im Dezember 2020 verließen die Amodei-Geschwister offiziell OpenAI und gründeten gemeinsam Anthropic.
Jack Clark, Sam McCandlish, Tom Brown, Chris Olah und Jared Kaplan beteiligten sich ebenfalls an der Gründung des Unternehmens, und Ben Mann wurde später als weiterer Mitgründer anerkannt.
Anthropic war zunächst nur eine kleine Forschungseinrichtung mit Schwerpunkt auf KI-Sicherheit. Danach expandierte das Unternehmen allmählich auf Tausende von Mitarbeitern und entwickelte sich zu einem der wichtigsten Konkurrenten von OpenAI.
Daniela Amodei ist heute Präsidentin und Vorstandsvorsitzende von Anthropic, mit Befugnis über den Großteil von Forschung, Engineering, Produkt und Geschäftsbetrieb. Holden Karnofsky, der einst Mitglied des gemeinnützigen Vorstands von OpenAI war, trat später ebenfalls Anthropic bei.
Von der Verwendung von Plüschtieren zur Simulation von Managern bis hin zur heutigen Entwicklung zu einem KI-Giganten mit Tausenden von Mitarbeitern zeugt diese Episode auch von Anthropics Reise vom Start-up zur Reife.
