OpenAI steht im Mittelpunkt einer viralen KI-Sicherheitsgeschichte, nachdem zwei seiner KI-Modelle angeblich einer überwachten Testumgebung entkommen sind, auf das Internet zugegriffen und diesen Zugang genutzt haben, um in die Systeme des Konkurrenzunternehmens Hugging Face einzudringen.

Der Vorfall, den einige Kommentatoren mit der Handlung des Films „The Terminator“ aus dem Jahr 1984 verglichen, wurde von OpenAI als nicht-bösartiges Verhalten beschrieben. Laut OpenAI versuchten die Modelle, eine zugewiesene Aufgabe zu erfüllen, und fanden eine Möglichkeit zu schummeln, anstatt mit feindlicher Absicht zu handeln. Diese Kategorie von Verhalten – bei der KI-Systeme unbeabsichtigte Abkürzungen nutzen, um ein Ziel zu erreichen – ist in der KI-Sicherheitsliteratur unter Begriffen wie „Reward Hacking“ und „Specification Gaming“ gut dokumentiert und in verschiedenen Forschungskontexten beobachtet worden. Sowohl OpenAI als auch Hugging Face erklärten, dass sie anschließend zusammengearbeitet haben, um die betroffenen Sicherheitsschwachstellen zu beheben.

Für KI-Sicherheitsforscher bot der Vorfall eines der deutlichsten öffentlichen Beispiele für Risiken, vor denen sie seit Jahren warnen. Für andere erschien der Vorfall jedoch verdächtig vorteilhaft für OpenAIs öffentliches Image.

Es gibt keine Beweise dafür, dass der Hack erfunden wurde. Hugging Face bestätigte, dass der Hack real war, und beide Unternehmen veröffentlichten einen Bericht über den Vorfall. Dennoch füllten sich die sozialen Medien schnell mit Theorien, dass die Episode OpenAIs Versuch darstelle, einen eigenen „Mythos“-Moment zu kreieren.

Auch innerhalb der KI-Branche reagierten einige Menschen skeptisch. „Der gesamte Blog-Beitrag liest sich wie ein Marketing-Trick, den OAI von Anthropic abgekupfert hat“, schrieb ein X-Nutzer. „Ich bin mir nicht sicher, ob dies das bei weitem bedeutendste echte KI-Sicherheitsereignis in der realen Welt bis heute ist, oder der bei weitem zynischste Marketing-Stunt, den ich seit langer Zeit gesehen habe“, schrieb ein anderer KI-Forscher auf LinkedIn. Mehrere Ingenieure, die in Big-Tech-Unternehmen arbeiten, erzählten Fortune, dass ihr erster Instinkt darin bestand, den Hack als eine Form von Werbung einzustufen.

Der Hack sorgte zwar für globale Schlagzeilen, doch das Abstürzen der Server eines Konkurrenzunternehmens gilt im Allgemeinen nicht als konventionelles Marketing. Dennoch kritisieren Experten seit Jahren, dass führende KI-Unternehmen eine Form des „Dark Marketing“ betreiben. Diese Kritiker verweisen auf Warnungen, dass KI ganze Berufskategorien eliminieren könnte, auf Anthropics Entscheidung, Mythos wegen der Einstufung als „zu gefährlich“ nicht öffentlich zu veröffentlichen, sowie auf Aussagen von Laborleitern, dass unkontrollierte Modelle alle Menschen auf dem Planeten töten könnten. Dieselben Unternehmen, die KI-Systeme verkaufen, gehörten oft zu den lautesten Stimmen, die vor den Risiken der Technologie warnten.

Einige dieser Bedenken mögen berechtigt sein. Gleichzeitig haben Warnungen vor katastrophalen KI-Risiken auch dazu beigetragen, die Aufmerksamkeit auf die Produkte der Unternehmen zu lenken und diese in den Schlagzeilen zu halten. Andere argumentieren, dass solche Warnungen führenden Technologieunternehmen ermöglicht haben, ihre Kontrolle über die fortschrittliche KI-Entwicklung zu stärken, indem sie suggerierten, dass Modelle so gefährlich würden, dass nur eine kleine Gruppe von Organisationen mit ihrem Bau oder ihrer Verwaltung betraut werden sollte – eine Dynamik, die zentral für die laufenden politischen Debatten in Washington und Brüssel über die Regulierung von KI geworden ist.

Die Reaktionen der Öffentlichkeit und der Industrie deuten darauf hin, dass diese Strategie nun an Grenzen stößt. KI-Labore haben Jahre damit verbracht, Weltuntergangsszenarien zu betonen und ihre eigenen Modelle als gefährlich mächtig zu beschreiben. Infolgedessen vermuten viele Beobachter heute instinktiv, dass es sich um Spin handelt, wenn ein Vorfall eintritt, der genuine beunruhigend wirkt.

„Ich sehe viele Leute, die sagen, das könne nicht ganz wahr sein, da sei gelogen worden, oder es sei nur ein PR-Stunt“, sagte Charlie Eriksen, Sicherheitsforscher bei Aikido Security, gegenüber Fortune. „Das deutet darauf hin, dass die Frontier-Labore von Grund auf unseriös sind, denn es ergibt keinen Sinn, dass sie sich Dinge ausdenken würden, ohne in diesem Fall einen klaren, vernünftigen Anreiz zu haben.“

Wer überprüft die Behauptungen der Labore?

Das Vertrauensproblem ist relevant, weil ein Großteil dessen, was die Branche über KI-Sicherheit und Modellleistung weiß, von den KI-Laboren selbst stammt. Modelle werden in der Regel intern eingesetzt und vor der öffentlichen Veröffentlichung von Sicherheitsteams geprüft. Wenn Regierungen, Unternehmen und die Öffentlichkeit den Firmen bei echten Gefahren nicht glauben – oder wenn diesen Unternehmen tatsächlich nicht vertraut werden kann –, verengt sich die Informationsbasis über potenziell gefährliche Modelle, die sich noch in der Entwicklung befinden.

Sicherheitsexperten haben auch auf ein umfassenderes Verifizierungsproblem hingewiesen: Es gibt keine klare Möglichkeit, viele Behauptungen darüber, was in KI-Laboren geschieht, unabhängig zu bestätigen. Unternehmen sind nicht verpflichtet, Vorfallprotokolle herauszugeben oder sich unabhängigen Audits zu unterziehen, die belegen, dass ihre Aussagen über Modellfähigkeiten oder -verhalten korrekt sind. Regierungen haben begonnen, Aufsichtsinfrastrukturen aufzubauen – die USA haben ein AI Safety Institute innerhalb des Handelsministeriums eingerichtet, und der EU AI Act enthält Anforderungen an Systemrisikobewertungen für die leistungsstärksten Modelle –, doch diese Mechanismen befinden sich noch in einem frühen Stadium und haben unabhängige Verifizierung noch nicht als Standard etabliert.

In diesem Fall trägt die Episode zufällig auch zur Aufwertung der Wahrnehmung von OpenAIs Modellen bei, einschließlich eines noch unveröffentlichten Modells, das den Gerüchten zufolge GPT-6 werden könnte. Gleichzeitig gibt sie Hugging Face die Gelegenheit, sich für leistungsstärkere, in den USA hergestellte Open-Source-KI-Tools in den Händen von Verteidigern einzusetzen. Das schafft ein vorteilhaftes Ergebnis für zwei Unternehmen, die zumindest auf dem Papier entgegengesetzte Interessen haben.

Das bedeutet nicht, dass der Vorfall erfunden war. Aber die Tatsache, dass es keine Möglichkeit gibt, diese Möglichkeit endgültig auszuschließen, ist selbst Teil des Problems.

Die Episode zeigt auch, dass KI-Modelle sich auf unbeabsichtigte Weise verhalten können. Die Ereignisse dieser Woche haben diesen Punkt demonstriert, und es gab bereits früher ähnliche Beispiele für diese Art von Misalignment. Was der Vorfall ebenfalls klar gemacht hat, ist dass die Labore, die diese Systeme entwickeln, die Bereitschaft der Öffentlichkeit geschwächt haben, ihre Behauptungen zu akzeptieren – selbst wenn sie die Wahrheit sagen.

Der Originalartikel wurde von Beatrice Nolan für Fortunes Eye-on-AI-Newsletter verfasst und war ursprünglich auf Fortune.com zu lesen.