OpenAI zufolge haben seine autonomen Sicherheitsagenten 948 unterschiedliche Schwachstellen im Linux-Kernel aufgedeckt, funktionierende Exploits entwickelt und Korrekturen zur menschlichen Prüfung entworfen – alles für rund 1,2 Millionen Dollar in API-Credits, so das Unternehmen.

Die Oktober-Kampagne kostete 1.213.430 Dollar in Credits, im Durchschnitt etwa 1.279 Dollar pro Schwachstelle, wobei ein leistungsfähigeres, unveröffentlichtes KI-Modell letztlich mehr als fünfmal so viele Schwachstellen fand wie eine frühere Version. Zwar generierte das System auch Kandidaten-Patches, doch die Validierung und Umsetzung der Korrekturen liegt weiterhin in der Verantwortung von menschlicher Prüfung und Software-Maintainern.

"Wir haben Linux gewählt, um zu untersuchen, wie effektiv Frontier-Modelle Schwachstellen finden und ihre sicherheitsrelevanten Auswirkungen in einer Codebasis dieser Größenordnung und Bedeutung nachweisen können", erklärte OpenAI in veröffentlichten Ergebnissen am Mittwoch.

Der Linux-Kernel betreibt Cloud-Server, Android-Geräte und einen Großteil der kritischen Recheninfrastruktur der Welt. Die in dem Experiment identifizierten Schwachstellen waren lokale Privilegienerweiterungs-Schwachstellen: Ein Angreifer benötigt zunächst eingeschränkten Zugriff auf eine verwundbare Maschine, könnte dann jedoch Root-Rechte erlangen und die volle Kontrolle übernehmen. Auf gemeinsam genutzten Systemen wie Cloud-Servern ist genau dieser Ausbruchsschritt der Wendepunkt, der einen begrenzten Zugriffspunkt in die Kontrolle über alles, was die Maschine ausführt, verwandelt.

948 Schwachstellen, 1.169 funktionierende Exploits

OpenAIs Agenten durchsuchten rund 2,8 Millionen Zeilen Kernel-Code, etwa 7 % des Projekts. "Unser Prototyp identifizierte und analysierte 2.308 Kandidaten-Befunde im Linux-Kernel, reproduzierte dynamisch 1.724 Schwachstellen und erzeugte 948 Exploits für lokale Privilegienerweiterung (LPE), die einem nicht privilegierten lokalen Benutzer Root-Zugriff ermöglichen könnten", so OpenAI.

Nach der Gruppierung der Exploits nach ihrer zugrunde liegenden Ursache und vorgeschlagenen Korrektur zählten die Forscher 948 unterschiedliche Schwachstellen, wobei Exploits mit gleicher Ursache und gleichem Behandlungsweg als einer galten.

OpenAI verglich die Kosten des Laufs mit historischen Auszahlungen von 20.000 bis 70.000 Dollar für Linux-Privilegienerweiterungs-Exploits bei Hacking-Wettbewerben und kam zu einem hypothetischen Wert von 18,9 bis 66,3 Millionen Dollar, wären dieselben Ergebnisse manuell gefunden worden.

Eine frühere Kampagne von GPT-5.6 Sol fand im Juli 166 einzigartige Privilegienerweiterungs-Schwachstellen für 513.690 Dollar. Das neuere, unveröffentlichte Cyber-Modell fand im Oktober mehr als fünfmal so viele – und das, obwohl der Kernel monatelange Korrekturen durchlaufen hatte. OpenAI erklärte zudem, seine Agenten hätten mindestens zehn Exploitation-Techniken eingesetzt, die den Forschern und den befragten externen Experten unbekannt waren – nicht bloß bestehende Tricks aus Trainingsdaten.

Was passiert, wenn Hacker dieselben Werkzeuge erhalten?

Die Ergebnisse fügen sich in wachsende Belege dafür ein, dass KI-Systeme zu fortschrittlicher Cybersicherheitsforschung fähig sind, die zuvor erhebliche menschliche Expertise erforderte.

In der vergangenen Woche gab Anthropic in einem Forschungsbericht bekannt, dass eine unveröffentlichte Version von Claude ernste Schwachstellen in weit verbreiteter Software, darunter Chrome und Linux, entdeckt und ausgenutzt hatte. Einige dieser Exploits konnten Schadcode aus der Ferne mit wenig oder keiner Nutzerinteraktion ausführen. Die beiden innerhalb etwa einer Woche veröffentlichten Berichte unterstreichen, wie schnell Frontier-Labore daran arbeiten, die Sicherheitsfähigkeiten ihrer leistungsfähigsten Modelle öffentlich zu machen, während diese Systeme nicht allgemein freigegeben werden.

Die Ökonomie dieser Art von Forschung hatte sich bereits vor OpenAIs Ankündigung verschoben. Forscher von Vidoc Security reproduzierten mehrere Schwachstellenfunde im Zusammenhang mit Anthropics leistungsfähiger Mythos-KI mithilfe öffentlich zugänglicher Modelle für weniger als 30 Dollar pro Datei, wie Decrypt zuvor berichtete.

Diese Tests zeigten, dass das Auffinden von Schwachstellen zunehmend zugänglicher wurde, wobei die Reproduktion einer Schwachstelle etwas anderes ist als die Entwicklung eines zuverlässigen Exploits, der ein geschütztes System kompromittieren kann.

OpenAIs jüngstes Experiment geht einen Schritt weiter, indem es einen Großteil des Exploitation-Prozesses automatisiert – eine Entwicklung, die Verteidigern einen Vorteil bei der Patches-Bereitstellung verschaffen könnte, bevor Kriminelle dieselben Schwachstellen ausnutzen können. Das Unternehmen warnte, dass Angreifer mit eingeschränktem Zugriff auf ein veraltetes Betriebssystem ihre Privilegien zunehmend mit KI-Unterstützung erweitern könnten. Vorerst liegen die von den Agenten entworfenen Kandidaten-Korrekturen weiterhin in den Händen menschlicher Prüfer – was den Umgang mit KI-generierten Patches für weit verbreiteten Code zu einer konkreten nächsten Entwicklung macht.

OpenAI versucht, den Zugriff auf seine leistungsfähigeren Cybersicherheitsmodelle über verifizierte Sicherheitsprogramme zu beschränken. Die Daybreak Red-Initiative bietet zugelassenen Verteidigern Zugang zu spezialisierten KI-Werkzeugen für Schwachstellenforschung, Exploit-Tests und die Entwicklung von Gegenmaßnahmen.