Drei entlassene OpenAI-Sicherheitsforscher veröffentlichen offenen Brief zur KI-Aufsicht
Wichtige Erkenntnisse
- •OpenAI entließ am oder um den 1. Oktober 2026 die Sicherheitsforscher Jasmine Wang, Tomek Korbak und Mikita Balesni mit Verweis auf Verstöße gegen Richtlinien zu sensiblen Informationen, nachdem eine interne Untersuchung ergeben hatte, dass sie vertrauliche Materialien an eine externe KI-Sicherheitsorganisation weitergegeben hatten.
- •Am 8. Oktober richteten die drei Forscher einen offenen Brief an OpenAIs Vorstand und Sicherheitskomitees, der später auf Balesnis persönlicher Website veröffentlicht wurde, und warnten vor potenziellen Risiken, sollte die Fähigkeit zur „Chain of Thought“-Überwachung verloren gehen.
- •Die Forscher forderten eine branchenweite Zusammenarbeit bei der Modellüberwachung und die Einbindung unabhängiger Sicherheitsauditoren, um der Unsicherheit beim sicheren Einsatz von Modellen jenseits menschlicher Kontrolle zu begegnen.
- •OpenAI erklärte, die Entlassungen stünden in keinem Zusammenhang mit dem sicherheitsbezogenen Engagement der Forscher, und stimmt den Empfehlungen des Briefes zu; das Unternehmen führt die Kündigungen auf Vertrauensbrüche zurück.
- •Die Entlassungen erfolgten wenige Tage nach dem Rücktritt des Sicherheits-Transparenzleiters David Robinson aufgrund von Bedenken über OpenAIs Abwägung zwischen schnellem technischem Fortschritt und Sicherheit, und ähneln ähnlichen Entlassungen von Forschern im Jahr 2024.
Drei OpenAI-Sicherheitsforscher, die letzte Woche ihre Jobs verloren haben, haben einen offenen Brief veröffentlicht, in dem sie dem Unternehmen vorwerfen, Gewinne über Sicherheit zu stellen.
Bei den Forschern handelt es sich um Jasmine Wang, Tomek Korbak und Mikita Balesni. OpenAI entließ sie mit der Begründung, sie hätten vertrauliches Material außerhalb des Unternehmens weitergegeben. Die drei erklären, sie hätten lediglich ihre Arbeit gemacht.
Was geschah und wann
Die Entlassungen erfolgten am oder um den 1. Oktober 2026. OpenAI berief sich auf Verstöße gegen Unternehmensrichtlinien zum Umgang mit sensiblen Informationen.
Einer internen Untersuchung zufolge hatten die drei vertrauliche Materialien an eine externe KI-Sicherheitsorganisation weitergegeben. Die Forscher wiesen diese Darstellung zurück und argumentierten, ihr Verhalten liege innerhalb ihrer beruflichen Verantwortung.
Diese Verteidigung hat einiges Gewicht, wenn man Korbaks frühere Rolle betrachtet. Er war zuvor OpenAIs Verbindungsperson zu METR und Redwood Research, zwei externen Sicherheitsorganisationen. Wenn ein Teil der Jobbeschreibung im Austausch mit externen Sicherheitsforschern besteht, kann die Grenze zwischen „Zusammenarbeit“ und „Leak“ schnell verschwimmen.
Am 8. Oktober richteten die drei einen Brief an OpenAIs Vorstand und dessen Sicherheitskomitees. Er wurde inzwischen auf Balesnis persönlicher Website veröffentlicht.
Die zentrale Warnung des Briefes betrifft die sogenannte „Chain of Thought“-Überwachung. Fortschrittliche KI-Modelle können vor dem Ergebnis eine Kette von Zwischenschritten des Denkens erzeugen. Sicherheitsforscher beobachten diese Kette auf Anzeichen, dass ein Modell etwas tut, was es nicht sollte. Der Brief hebt die potenziellen Risiken hervor, sollte diese Überwachungsfähigkeit verloren gehen.
Die Forscher wiesen zudem auf die breite Unsicherheit in der Branche hin, wie Modelle, die jenseits menschlicher Kontrolle arbeiten, sicher entwickelt und eingesetzt werden können. Ihr Lösungsansatz war zweigeteilt: eine branchenweite Zusammenarbeit bei der Modellüberwachung und die Einbindung unabhängiger Sicherheitsaudits.
OpenAIs Reaktion
OpenAI zieht eine klare Trennung zwischen dem Brief und den Entlassungen. Das Unternehmen erklärte, die Kündigungen stünden in keinem Zusammenhang mit dem sicherheitsbezogenen Engagement der Forscher. Es ging weiter: OpenAI erklärte, mit den Empfehlungen des Briefes übereinzustimmen. Aus Sicht des Unternehmens waren die Entlassungen aufgrund von Vertrauensbrüchen notwendig.
Ein Muster von Sicherheits-Abstriegen
Die Entlassungen kamen nicht aus dem Nichts. Nur wenige Tage zuvor war David Robinson von seinem Posten als Leiter der Sicherheitstransparenz bei OpenAI zurückgetreten. Robinson war kritisch gegenüber der internen Kultur des Unternehmens eingestellt und hatte Bedenken geäußert, wie OpenAI schnellen technischen Fortschritt gegen angemessene Sicherheitsmaßnahmen abwägt.
Es gibt auch Vorgeschichte. Im Jahr 2024 entließ OpenAI Forscher wegen ähnlicher Verstöße, ebenfalls inmitten laufender Sicherheitsbedenken. Das Unternehmen sah sich zudem öffentlicher Kritik an seinen Sicherheitspraktiken ausgesetzt, einschließlich kürzlicher Sicherheitsvorfälle.
Was das bedeutet
Für die breitere KI-Branche zählt der Inhalt des Briefes mehr als das Personaltheater. Die Chain-of-Thought-Überwachung ist eines der wenigen Fenster, die Forscher derzeit haben, um zu verstehen, wie fortgeschrittene Modelle zu ihren Schlussfolgerungen gelangen. Der Aufruf zu gemeinsamen Überwachungsstandards deutet darauf hin, dass die Autoren das Problem als kollektive Herausforderung sehen, die kein einzelnes Unternehmen allein lösen kann.
Es gibt auch eine strukturelle Spannung, die es zu beobachten gilt. Labore möchten externe Validierung ihrer Sicherheitsarbeit – was den Austausch von Informationen erfordert. Sie möchten zugleich proprietäre Forschung schützen – was verlangt, diese für sich zu behalten. Die Entlassung einer ehemaligen Verbindungsperson zu externen Sicherheitsgruppen wegen angeblich extern weitergegebenen Materials liegt exakt auf dieser Bruchlinie.
Die nächsten Signale sind ziemlich konkret: Kündigt OpenAI eine formelle Vereinbarung mit unabhängigen Auditoren an? Reagieren andere Labore öffentlich auf den Aufruf des Briefes zu gemeinsamer Arbeit an der Modellüberwachung? Und folgen weitere Sicherheitsmitarbeiter Robinson und den drei Forschern nach draußen?
