OpenAI stuft Astra als erstes Modell mit kritischer Cybersicherheits-Schwelle ein
Wichtige Erkenntnisse
- •OpenAI hat Astra erstmals im Rahmen seines Preparedness Framework als Critical eingestuft.
- •Evaluierungen ergaben, dass Astra bei Bereitstellung von Werkzeugen und Zugriff unbekannte Schwachstellen identifizieren und Exploit-Ketten entwickeln konnte.
- •OpenAI gab an, dass Astra GPT-5.6 Sol bei der Schwachstellen-Identifizierung und Exploit-Entwicklung übertraf, dabei aber weniger Output-Tokens verwendete.
- •Das Unternehmen hat strengere Isolation, eingeschränkten Netzwerk- und Werkzeugzugriff, zusätzliche Überwachung und stärkere Kontrollen der Modellgewichte eingeführt.
- •Fortgeschrittene Cybersicherheitsfunktionen werden zunächst einer kleinen Gruppe von Alpha-Testern zur Verfügung gestellt, bevor ein breiterer defensiver Zugriff über Daybreak Blue erfolgt.

OpenAIs kommendes KI-Modell Astra hat eine Cybersicherheits-Fähigkeitsstufe erreicht, die das Unternehmen als „Critical“ (kritisch) einstuft, was zusätzliche Schutzmaßnahmen vor der Veröffentlichung des Modells auslöst, berichtet Cointelegraph. Die Einstufung markiert das erste Mal, dass OpenAI einem seiner Modelle diese Klassifizierung im Rahmen seines Preparedness Framework zuweist – dem Risikobewertungssystem, das das Unternehmen 2023 eingeführt hat, um Grenzmodelle vor dem Einsatz auf katastrophale Risiken zu prüfen.
Laut OpenAI ergaben seine Evaluierungen, dass Astra – bei Bereitstellung geeigneter Werkzeuge und Zugriffe – bisher unbekannte Sicherheitslücken identifizieren und ohne menschliche Anleitung Wege entwickeln kann, diese in gut geschützten Systemen auszunutzen. Diese Erkenntnisse veranlassten das Unternehmen, sowohl während der Entwicklung als auch vor dem Einsatz strengere Sicherheitskontrollen zu verhängen.
Eine neue Schwelle für Cybersicherheits-Fähigkeiten von KI
Im Rahmen von OpenAIs Preparedness Framework gilt die Critical-Schwelle für Modelle, die in der Lage sind, ohne menschliches Eingreifen funktionale Zero-Day-Exploits gegen gehärtete kritische Systeme in der realen Welt zu identifizieren und zu entwickeln, oder eigenständig neuartige End-to-End-Cyberangriffe auf gehärtete Ziele zu planen und auszuführen. Das Framework bewertet Modelle über Risikokategorien wie Cybersicherheit hinweg, wobei höhere Einstufungen progressiv strengere Einsatzbedingungen auslösen sollen.
OpenAI gab an, dass Astra Fähigkeiten demonstrierte, die denen von GPT-5.6 Sol bei der Schwachstellen-Identifizierung und Exploit-Entwicklung überlegen sind, und dabei weniger Output-Tokens verwendete. In einer Evaluierung erreichte Astra 100 % auf ExploitBench. Interne Tests ergaben zudem, dass das Modell zwei Zero-Day-Schwachstellen als Teil einer Exploit-Kette entdeckte und nutzte.
Strengere Kontrollen vor der Veröffentlichung
Das Unternehmen hat Teile der Entwicklung und Veröffentlichung von Astra verzögert und zugleich den Schutz vor Cybermissbrauch und unbefugten Modellaktionen verstärkt. Zu diesen Maßnahmen gehören eine strengere Isolation, eingeschränkter Netzwerk- und Werkzeugzugriff, zusätzliche Überwachung sowie stärkere Kontrollen rund um die Modellgewichte.
OpenAI erklärte außerdem, dass Astra darauf trainiert wird, schädliche Cybersicherheitsanfragen zuverlässiger abzulehnen. In seinen Cyber-Jailbreak-Evaluierungen lehnte das Modell 91,5 % der unzulässigen Anfragen ab, verglichen mit 59 % bei GPT-5.6 Sol. Fortgeschrittene Cybersicherheitsfunktionen werden zunächst auf eine kleine Gruppe von Alpha-Testern beschränkt, wobei ein breiterer defensiver Zugriff über Daybreak Blue geplant ist – eine Zugriffsstruktur, die dem Vorgehen anderer Hochleistungs-KI-Einsätze entspricht, bei denen ein eingeschränkter Rollout mit geprüften defensiven Anwendungsfällen kombiniert wurde.
Auswirkungen auf die KI-Branche
Astras Klassifizierung verdeutlicht eine wachsende Herausforderung für KI-Entwickler: Fortschritte, die die Schwachstellenforschung und Cyberabweid verbessern können, erhöhen zugleich potenziell Umfang und Geschwindigkeit böswilliger Aktivitäten. Das Ergebnis fällt zudem in eine breitere Branchen- und Politikdebatte darüber, wie KI-Systeme mit offensiven Cyberfähigkeiten reguliert werden sollten, während Regulierungsbehörden und Sicherheitsforscher abwägen, ob freiwillige Rahmenwerke für Modelle ausreichen, die solche Schwellen überschreiten.
Als Reaktion darauf ist OpenAI mit steigenden Fähigkeiten zu einem restriktiveren Einsatzmodell übergegangen, das Ablehnungen auf Modell-Ebene mit Überwachung, Zugriffsbeschränkungen und Eindämmungsmaßnahmen kombiniert. Der Ansatz spiegelt das breitere Bemühen des Unternehmens wider, sicherzustellen, dass Sicherheitssysteme mit zunehmend autonomen KI-Agenten Schritt halten. Wie andere Grenzmodell-Entwickler – und die Forscher, die sie prüfen – auf vergleichbare Fähigkeitsschwellen reagieren, dürfte die entstehenden Normen für einen sicheren KI-Einsatz prägen.
OpenAI gab an, Astra bald verfügbar machen zu wollen, wobei weitere Details zu den Bewertungen von Sicherheit, Schutz und Alignment in der System Card des Modells zum Start erwartet werden – dem Dokument, in dem das Unternehmen zuvor Evaluationsergebnisse seiner Grenzmodelle offengelegt hat.