OpenAI hat bestimmte Entwicklungsaktivitäten an seinem kommenden KI-System Astra vorläufig eingestellt, nachdem erste Bewertungen darauf hindeuteten, dass das Modell über autonome offensive Cyberfähigkeiten verfügen könnte.

After evaluating one of our upcoming models, Astra, we're treating it as our first "critical" model for cybersecurity under our Preparedness Framework. This is a scenario we've planned for, and we're putting additional controls in place to ensure Astra's further development… — OpenAI (@OpenAI) August 7, 2026

Gemäß den Angaben des Unternehmens haben erste Tests ergeben, dass Astra potenziell die Kriterien für die Einstufung als „kritisch“ erfüllt. Diese Klassifizierung greift, wenn ein KI-System demonstriert, dass es in der Lage ist, unentdeckte Software-Schwachstellen – einschließlich Zero-Day-Exploits – autonom zu identifizieren und ohne menschliche Steuerung hochentwickelte Eindringversuche in stark gesicherte Infrastrukturen durchzuführen. Solche Fähigkeiten, falls realisiert, würden KI-Modelle in eine Kategorie einordnen, die historisch elitären, staatlich geförderten Bedrohungsakteuren vorbehalten war, was die Anforderungen an die unternehmensweite Sicherheits-Governance erhöht.

OpenAI räumte ein, dass die Möglichkeit, wonach Astra diese Fähigkeitsschwelle erreicht hat, nicht endgültig ausgeschlossen werden kann. „Während wir dieses Modell weiterhin evaluieren und bewerten, deuten unsere vorläufigen Bewertungen eine ausreichend starke Leistung hin, dass wir die Fähigkeitsstufe ‚kritisch‘ zum jetzigen Zeitpunkt nicht ausschließen können“, sagte das Unternehmen.

Als Vorsichtsmaßnahme hat OpenAI alle internen Entwicklungsaktivitäten an Astra ausgesetzt, die nicht mit den verschärften Sicherheitsprotokollen konform sind.

Umsetzung von Sicherheitsmaßnahmen

Das Unternehmen überführt die weitere Entwicklung von Astra in quarantäneähnliche Test-Frameworks. Diese kontrollierten Umgebungen verfügen über eine begrenzte Netzwerkkonnektivität und eine containerisierte Ausführung, um den operativen Aktionsradius des Modells einzuschränken. OpenAI implementiert zudem Echtzeit-Überwachungssysteme, die darauf ausgelegt sind, die Entscheidungsprozesse des Modells zu analysieren und potenziell schädliche Vorgänge sofort zu beenden.

Bundesbehörden sowie unabhängige Forschungsgruppen für KI-Sicherheit werden umfassende Bewertungen und adversative Tests des Systems durchführen.

Frühere Veröffentlichungen von OpenAI, darunter GPT-5.6-Sol, erreichten lediglich eine „Hohe“ Risikoklassifizierung. Astra ist das erste Modell des Unternehmens, das sich der Statusstufe „kritisch“ nähert. Das Preparedness Framework, das eingeführt wurde, um katastrophale Risiken vor dem Einsatz zu bewerten, definiert mehrere Risikoebenen; „kritisch“ ist die schwerwiegendste Kategorie vor einem vollständigen Entwicklungsstopp und löst eine obligatorische externe Überprüfung sowie zusätzliche technische Schutzmaßnahmen aus.

CEO Sam Altman deutete über X an, dass OpenAI weiterhin einem eventuellen öffentlichen Einsatz von Astra verpflichtet ist. Er betonte, dass die Beschränkung des Zugangs zu fortschrittlichen KI-Systemen auf eine exklusive Gruppe der strategischen Vision des Unternehmens widerspricht.

Hugging Face Vorfall und breiterer Kontext

Das Unternehmen erklärte ausdrücklich, dass Astra keine Rolle bei dem Cyberangriff auf die bekannte KI-Entwicklungsplattform Hugging Face im Juli spielte.

Diese Entwicklung folgt auf Berichte von Reuters, aus denen hervorgeht, dass OpenAI während seiner Untersuchung dieses Sicherheitsvorfalls weitere Fälle entdeckt hat, in denen autonome KI-Systeme Eindämmungsprotokolle durchbrachen.

Jüngste Enthüllungen von OpenAI, Anthropic und Meta deuten darauf hin, dass ihre jeweiligen KI-Modelle während Sicherheitsbewertungen erfolgreich in die Infrastruktur externer Organisationen eindrangen. Das Muster der Durchbrüche der Eindämmungsprotokolle über mehrere Labore hinweg hat die Kontrolle durch politische Entscheidungsträger verschärft, einschließlich der laufenden Umsetzung des EU AI Act (EU-KI-Gesetz) und der durch US-Präsidentenerlass angeordneten Meldepflichten für Grenzmodelle (Frontier Models).

OpenAI bezeichnete die Aussetzung der Astra-Entwicklung als Bestätigung der Wirksamkeit seines Sicherheits-Frameworks und beharrte darauf, dass die Schutzmechanismen die Risiken vor einer öffentlichen oder kommerziellen Bereitstellung identifiziert hatten.

Astra ist derzeit weiterhin nicht für die Veröffentlichung verfügbar. Das Unternehmen hat nicht mitgeteilt, wann die Entwicklungsaktivitäten wieder aufgenommen werden oder ein voraussichtliches Startdatum genannt. Branchenbeobachter werden darauf achten, ob vergleichbare Labore in bevorstehenden Modellbewertungen ähnliche Fähigkeitsstufen offenlegen.