In den sozialen Medien und innerhalb von OpenAI wird derzeit darüber gestritten, warum das Unternehmen letzte Woche drei Mitglieder seines Sicherheitsteams entlassen hat. Sowohl die ehemaligen Mitarbeiter als auch OpenAI haben inzwischen weitere Stellungnahmen abgegeben, um ihre jeweilige Sicht der Dinge zu erläutern.

Der Streit geht über die Personalentscheidungen eines einzelnen Unternehmens hinaus: Im Kern geht es um die Frage, wie viel Einblick externe Forscher in KI-Grenzmodelle haben sollten und ob Mitarbeiter, die sich für solchen Einblick einsetzen, dies tun können, ohne ihren Arbeitsplatz zu riskieren.

Zwei der entlassenen Forscher – Tomek Korbak und Mikita Balesni – arbeiteten an OpenAIs Untersuchung des Hugging-Face-Sicherheitsvorfalls, über den Fortune zuvor berichtet hatte. Korbak war der technische Ansprechpartner für METR, das externe Forschungsunternehmen, das OpenAI mit einer unabhängigen Prüfung des Vorfalls beauftragt hatte – eine Form externer Überprüfung, auf die sich KI-Labore stützen, um Sicherheitsaussagen über ihre leistungsfähigsten Systeme zu belegen. Die dritte entlassene Mitarbeiterin, Jasmine Wang, war Programmmanagerin in OpenAIs Sicherheitsteam.

The Wall Street Journal berichtete zuerst am 1. Oktober über die Entlassungen. OpenAI erklärte damals, die „Personen hätten mit sensiblen Informationen außerhalb etablierter Unternehmensverfahren umgegangen, wodurch sie gegen unsere Richtlinien verstießen und das für unsere Arbeit wesentliche Vertrauen zerstörten“.

Ehemalige Mitarbeiter veröffentlichen Antwortschreiben auf die Vorwürfe

Seitdem scheinen sich Diskussion und Kontroverse innerhalb der Reihen von OpenAI fortgesetzt zu haben, was die drei ehemaligen Mitarbeiter dazu veranlasste, ein vierseitiges Schreiben zu verfassen, das am 8. Oktober veröffentlicht wurde.

Das Schreiben reagiert auf „verschiedene zirkulierende Versionen der Ereignisse“ unter OpenAI-Mitarbeitern und verweist auf laufende „interne und externe Kommunikation“ über die Entlassung, die aktuelle Mitarbeiter nach Angaben der ehemaligen Mitarbeiter davon abhalte, „ Angst zu sprechen“.

„Kündigungen wie unsere, die so abrupt vollzogen und kommuniziert werden, untergraben die offene Kultur, die OpenAI in der Vergangenheit geschätzt hat“, heißt es in dem Schreiben. „Um diese Kultur zu verteidigen, schreiben wir.“

Die beiden zentralen Themen des Schreibens sind OpenAIs Fähigkeit, seine fortschrittlichen Modelle zu überwachen, und das Engagement des Unternehmens mit externen Sicherheitsorganisationen wie METR – beides Faktoren, die darüber bestimmen, in welchem Umfang externe Parteien Systeme bewerten können, die sie anders nicht einsehen können. Die ehemaligen Mitarbeiter bestreiten, Bedenken zur Überwachbarkeit von OpenAIs neuestem Astra-Modell an The Information weitergegeben zu haben, das am 1. September darüber berichtete. Sie bestreiten zudem jedes Fehlverhalten in ihrer Kommunikation mit METR.

Die Mitarbeiter fordern OpenAI auf, die Fähigkeit zur engen Überwachung seiner fortschrittlichen Modelle zu bewahren, sein Bekenntnis zur Integration externer Sicherheitsprüfer in die Organisation einzuhalten und eine offene, transparente Kultur zu fördern.

„Wir sind besorgt, dass unsere Entlassungen dazu genutzt werden könnten, das Ende von OpenAIs Zusammenarbeit mit METR zu rechtfertigen oder externen Prüfern einen deutlich eingeschränkteren Zugang und Spielraum zu gewähren“, heißt es in dem Schreiben.

Unterschiedliche Darstellungen der Entlassungsgründe, aber nichts Konkretes

OpenAI hat die konkreten Gründe für die Entlassungen nicht offengelegt, teilte Fortune jedoch mit, man habe ein Muster von Fehlverhalten der drei Mitarbeiter festgestellt, darunter mehrere Verstöße, die eindeutig gegen seine Richtlinien zum Umgang mit Informationen verstießen. Das Unternehmen brachte die Entlassungen weder mit seiner Kommunikation mit METR noch mit dem Hugging-Face-Vorfall in Verbindung.

Jeder der ehemaligen Mitarbeiter gab diese Woche in Social-Media-Beiträgen, die auf das gemeinsame Schreiben verweisen, eine kurze eigene Erklärung ab.

Korbak sagte auf X, OpenAI habe ihm mündlich, nicht schriftlich, mitgeteilt, er sei „entlassen worden, weil ich mit METR kommuniziert habe“.

„Letzte Woche wurde ich zu einem Treffen mit OpenAIs Sicherheitschef bestellt und erfuhr, dass man mir nicht mehr vertraut. Ein Sicherheitsmitarbeiter nahm mir meinen Ausweis ab und führte mich aus dem Gebäude“, sagte Korbak. „Mit METR zu sprechen war meine Aufgabe.“

Wang sagte auf X, OpenAI habe ihr als Grund genannt, sie habe auf die E-Mails eines nicht namentlich genannten Führungskräftevertreters zugegriffen. Das Unternehmen habe ihr diesen Zugang für Recruiting-Aufgaben gewährt; als sie ihn nicht mehr benötigte, habe sie die IT gebeten, ihn zu entfernen, doch ihr Antrag sei nie bearbeitet worden.

„Wir waren nicht die ersten, die unter verdächtigen Umständen aus OpenAI gedrängt wurden“, sagte Wang. „Wenn die Mitarbeiter sich nicht jetzt gegen derartige Manöver stellen, fürchte ich, werden wir nicht die letzten sein. Die Botschaft an alle, die noch bei OpenAI sind, ist klar: Äußert Bedenken oder arbeitet eng mit externen Sicherheitsgruppen zusammen, und ihr könnten die Nächsten sein – ohne zu erfahren, warum.“

Balesni sagte auf X, er und seine Forscherkollegen seien „entlassen worden, weil sie Sicherheit über die kurzfristigen Interessen von OpenAI als Unternehmen stellten“.

Hat OpenAI eine ungesunde Sicherheitskultur?

Als Reaktion auf das Schreiben sandte OpenAI den Mitarbeitern ein internes Memo und veröffentlichte eine öffentliche Erklärung auf X. „Unsere interne Untersuchung deckte einen erheblichen Vertrauensbruch auf, der über das hinausgeht, was in dem von ihnen veröffentlichten Schreiben dargelegt wird, und wir stehen hinter der Entscheidung, ihr Beschäftigungsverhältnis nicht fortzusetzen“, erklärte das Unternehmen.

Das Fehlen von Klarheit darüber, was die Mitarbeiter genau getan oder möglicherweise mit METR geteilt haben, hat Spekulationen über den Hergang genährt. METR reagierte nicht auf Fortunes Bitte um Stellungnahme.

„Ich kann mir keine Welt vorstellen, in der OpenAIs Vorgehen hier gerechtfertigt wäre“, sagte Neel Nanda, Mitarbeiter bei Google DeepMind und zuvor bei Anthropic, in einem Beitrag auf X. „Menschen zu entlassen, weil sie in gutem Glauben ihr bestes Urteilsvermögen in einer neuartigen und unsicheren Situation genutzt haben, ist ein Zeichen einer hochgradig ungesunden Kultur.“

Auch David Robinson, ehemaliger Leiter für Sicherheitstransparenz bei OpenAI, sprach sich in diesem Monat in einem Op-Ed in The Atlantic über die „kaputte“ Sicherheitskultur des Unternehmens aus und schrieb, OpenAI sei „bei Weitem nicht sicher genug“ und setze auf „Versuch und Irrtum“. Er führte den Hugging-Face-Vorfall als Beleg an und argumentierte, die daraufhin eingeführten Schutzmaßnahmen hätten weitere unautorisierte Vorfälle dennoch nicht verhindert.

OpenAI teilte Fortune einen Teil des internen Memos an die Mitarbeiter mit, das von seinen Forschungsleitern versandt wurde – vermutlich verfasst von Mark Chen, Chief Research Officer, wenngleich das Unternehmen den Autor nicht nannte. Das Memo bekräftigte OpenAIs Bekenntnis zur Zusammenarbeit mit externen Sicherheitsprüfern und erklärte: „Überwachbarkeit hat für uns höchste Priorität.“

„Ich schätze unsere offene Debattenkultur, besonders wenn es um Sicherheit geht, und halte diese Offenheit für entscheidend, um die richtigen Entscheidungen zu treffen“, heißt es in dem Memo. „Ich möchte ganz klarstellen, dass diese Entscheidungen nichts mit dem Äußern von Sicherheitsbedenken oder dem lautstarken Einbringen von Anliegen zu tun hatten. Das haben wir stets gefördert und werden wir stets tun.“

OpenAI erklärte, es bleibe der Zusammenarbeit mit externen Sicherheitsprüfern verpflichtet und finalize derzeit Verträge, die es „in den kommenden Wochen“ ankündigen werde. Der Umfang des Zugangs, den diese Vereinbarungen externen Prüfern gewähren – und wie eng er den eingebetteten Regelungen entspricht, deren Bewahrung das Schreiben von OpenAI fordert –, wird der deutlichste Hinweis darauf sein, wie sich diese erklärten Bekenntnisse konkret gestalten.

Diese Geschichte wurde ursprünglich von Fortune berichtet.