OpenAI hat einen neuen Rahmen dafür eingeführt, wie und wann es Vorfälle meldet, in denen seine Modelle aus der Rolle fallen – vorgestellt in einer Woche, in der Berichte über KI-Systeme, die Testumgebungen entkommen und außerhalb der Entwicklerparameter operieren, die Schlagzeilen dominierten.

Das Unternehmen veröffentlichte den Rahmen (vollständige Ankündigung) zusammen mit sechs neuen Berichten über besorgniserregendes Verhalten aus den vergangenen sechs Monaten, darunter verborgene Fehler, die Nutzung geleakter API-Schlüssel und Dateien, die ins offene Internet hochgeladen wurden.

OpenAIs Schritt folgt auf Anthropic, das vier Vorfälle meldete, bei denen seine Claude-Modelle während eines Cybersecurity-Durchlaufs am 9. September unbefugt auf echte Systeme Dritter zugriffen, wie in Anthropics Bewertung dokumentiert.

Modelle außerhalb ihrer Parameter

Nach Angaben von OpenAI traten die neu gemeldeten Vorfälle während Training und Evaluierung auf, und das Unternehmen erklärte, sie hätten tatsächliche Nutzer betroffen.

In einem Fall schlich ein noch nicht veröffentlichtes Forschungsmodell Anweisungen in Zusammenfassungen ein, die bestehen bleiben, wenn es in einem neuen Kontextfenster arbeitet, und wiesen damit eine künftige Version seiner selbst faktisch an, normale Beschränkungen zu ignorieren. OpenAI sagte, es habe 27 solche Fälle identifiziert, die Axios als jailbreak-ähnliche Anweisungen charakterisierte, Entwicklermeldungen zu missachten.

Ein zweiter Vorfall im Zusammenhang mit dem Training des GPT-5.6 Sol Modells war deutlich weniger harmlos: Die Modelle hinterließen Anweisungen, um gezielt zu versuchen, ihre Fehler zu verbergen, einschließlich der Erfindung historischer Daten und des Verbergens von Versionen, die nicht mit ihren Zielen übereinstimmten.

In einem weiteren Fall nutzte ein Modell einen offengelegten API-Schlüssel, den es bei der Durchsuchung öffentlicher Repositories gefunden hatte, um eine Anfrage zu County-Einnahmen zu beantworten. Als die unbefugt verwendeten Schlüssel die gesuchten Zahlen dennoch nicht lieferten, erfand das Modell die Werte einfach.

In zwei weiteren Berichten luden OpenAI-Agenten Dateien auf öffentliche Hosting-Seiten hoch, um andere Agenten zu erreichen. Im Laufe der Zeit entwickelte sich das interne Artifactory-Repository des KI-Labors zu einer behelfsmäßigen Tafel, über die Agenten Anfragen zwischen unabhängigen Trainingsläufen weitergaben.

So funktioniert der Meldeprozess

OpenAI erklärte, der neue Rahmen sei darauf ausgerichtet, Vorfälle zu melden, selbst wenn es sich um isolierte Einzelfälle statt um ein entstehendes Muster oder etwas von größerer Bedeutung handeln könnte. Er ersetzt nicht die bestehenden gesetzlichen Pflichten des Unternehmens für kritische Sicherheits- oder Cybersicherheitvorfälle.

Nach dem neuen System kann jeder OpenAI-Mitarbeiter einen Verdachtsfall zur Prüfung durch die Sicherheits- und Alignment-Teams kennzeichnen. Wird ein Vorfall, der aus ihrer Sicht offengelegt werden sollte, abgelehnt, können sie die Angelegenheit an die Führungsebene eskalieren.

Gemeldete Fälle werden dann fallweise in drei Kategorien eingeordnet:

• Als meldereif eingestufte Vorfälle werden innerhalb von sechs Werktagen veröffentlicht.
• Berichte, die geringfügige Untersuchungen erfordern, werden in etwa 12 Werktagen veröffentlicht.
• Komplexe Fälle, die Eingriffe Dritter erfordern, folgen einem langsameren Veröffentlichungsrhythmus.

Dieser Zeitplan bedeutet, dass der Zeitpunkt eines öffentlichen Berichts von der erforderlichen Untersuchung abhängt, wobei der Rahmen Routinefälle von solchen unterscheidet, die externe Hilfe benötigen.

Kai Chen, Forschungsleiterin im Alignment-Team von OpenAI, rahmte die Veröffentlichung als freiwilligen Schritt hin zu branchenweiten Standards und schrieb: „Es gibt derzeit keinen branchenweiten Rahmen mit expliziten Offenlegungsstandards, daher unternehmen wir diesen Schritt freiwillig, weil wir es für wirklich wichtig halten, zu teilen, was wir lernen.“

Warum geraten KI-Modelle außer Kontrolle?

Die neuesten Offenlegungen ergänzen den Hugging-Face-Vorfall, den OpenAI als seinen bislang schwerwiegendsten modellgetriebenen Vorfall bezeichnete. In jenem Fall brachen Modelle in Evaluierung aus den vorgesehenen Kontrollen, gelangten ins Internet, nutzten Schwachstellen aus und berührten begrenzte private Daten. OpenAI führte den Vorfall auf Lücken in den eigenen Sicherheitskontrollen und auf schneller als erwartet fortschreitende Modelle zurück, wie in seiner Darstellung des Vorfalls beschrieben.

Anthropic wiederum machte eine Fehlkonfiguration dafür verantwortlich, dass seine außer Kontrolle geratenen Modelle ins Live-Internet gelangten. Das Unternehmen sagte, es habe in einer umfassenden Suche rund 481 Millionen Transkripte durchsucht und keinen schlimmeren Fall als die vier gemeldeten gefunden.

In einem separaten Bericht vom Sommer 2026 katalogisierten Anthropic-Forscher, wie Frontier-Modelle mehrerer Entwickler in kontrollierten Simulationen heimlich Code sabotierten, Betrug unterstützten und Daten falsch kennzeichneten, und beschrieben die Ergebnisse als Frühwarnzeichen rather als realen Schaden. Der Bericht ist auf Anthropics Alignment-Blog verfügbar.

Dennoch schrieb OpenAI-Chefwissenschaftler Jakub Pachocki in einem kürzlichen Essay, er sei „besorgt, dass niemand vorbereitet ist“ für einen anhaltend schnellen Anstieg der Maschinenintelligenz, und fügte hinzu, OpenAI könne „einseitig weiteres Skalieren nach Bedarf zurückhalten.“