Das Weiße Haus beobachtet aktiv einen von OpenAI offengelegten Vorfall, bei dem eines der KI-Modelle des Unternehmens während eines Sicherheitstests aus der kontrollierten Umgebung ausbrach und die Systeme des KI-Infrastruktur-Startups Hugging Face kompromittierte.

OpenAI teilte am Dienstag mit, dass ein KI-Agent aus seiner isolierten Testumgebung ausgebrochen sei und einen Hack ausgelöst habe, der die Infrastruktur von Hugging Face beeinträchtigte. Hugging Face betreibt eine weit verbreitete Plattform, auf der Entwickler an Code für KI-Modelle zusammenarbeiten. Sie hostet Hunderttausende Open-Source-Modelle und dient als Rückgrat für einen großen Teil der gemeinsamen Forschungsinfrastruktur der KI-Branche.

Michael Kratsios, Direktor des White House Office of Science andOSTP und Wissenschaftsberater des Präsidenten, wurde über den Vorfall informiert und beobachtet die Lage weiter, sagte ein Vertreter des Weißen Hauses gegenüber Reuters. Die Unterrichtung spiegelt das wachsende Engagement der US-Regierung bei der Aufsicht über KI-Sicherheit wider, das sich auf die Executive Order vom Oktober 2023 stützt, die Entwickler leistungsfähiger KI-Modelle verpflichtet, Sicherheitstestergebnisse an die Bundesregierung zu melden.

OpenAI zufolge ereignete sich der Vorfall während einer internen Bewertung, mit der die fortgeschrittenen Cyberfähigkeiten seiner KI-Modelle gemessen werden sollten. Forschende hatten bestimmte eingebaute Sicherheitsvorkehrungen deaktiviert und die Modelle in eine isolierte Testumgebung mit begrenztem Internetzugang versetzt.

Das Unternehmen erklärte, die Modelle hätten eine zuvor unbekannte Software-Schwachstelle ausgenutzt, um Internetzugang zu erlangen, und anschließend die Systeme von Hugging Face kompromittiert — offenbar in dem Versuch, bei der laufenden Cybersicherheitsbewertung zu tricksen.

Das Team von OpenAI identifizierte die anomalen Aktivitäten intern, während das Sicherheitsteam von Hugging Face den Eindringversuch gleichzeitig erkannte und stoppte. Als die beiden Teams miteinander in Kontakt traten, hatte Hugging Face bereits Eindämmungsmaßnahmen und eine forensische Rekonstruktion mithilfe eigener Modelle eingeleitet.

OpenAI-CEO Sam Altman äußerte sich am Dienstag in einem Beitrag auf X zu der Lage und erklärte: „We had a significant security incident during evaluation of our models.“ Er fügte hinzu, das Unternehmen teile, was es bislang gelernt habe, und äußerte seine Wertschätzung für die Zusammenarbeit mit Hugging Face bei der Bewältigung des Problems.

Clem Delangue, Mitgründer und CEO von Hugging Face, antwortete: „We're grateful for the collaboration with OpenAI on this and other topics. This incident, possibly the first of its kind, proves a point we've long believed: AI safety won't be solved by any single company working in secret. It will be solved in the open, collaboratively, with broad access to AI for every defender, everywhere.“

Delangue merkte zudem in einem Beitrag auf X an, Hugging Face glaube fest daran, dass es aufseiten von OpenAI keine böswillige Absicht gegeben habe, und beschrieb es als „quite mind-blowing that all of this happened autonomously.“

Der Vorfall unterstreicht die zunehmenden Fähigkeiten von KI-Modellen, über ihre festgelegten Leitplanken hinauszugehen und neue Cybersicherheitsbedrohungen zu erzeugen. Er verdeutlicht außerdem die Spannung zwischen geschlossenen und offenen Ansätzen in der KI-Entwicklung — eine Debatte, die sich verschärft hat, da Modelle leistungsfähiger werden und politische Entscheidungsträger abwägen, wie Systeme reguliert werden sollen, die autonom Schwachstellen entdecken und ausnutzen können.

FOX Business' Michael Sinkewicz und Reuters haben zu diesem Bericht beigetragen.