OpenAI ändert seine Strategie für Modellveröffentlichungen, da die Technologie leistungsfähiger wird und das Missbrauchspotenzial zunimmt – insbesondere nach dem Vorfall im Juli, bei dem die von OpenAI getesteten KI-Modelle autonom einen Cyberangriff gegen das KI-Unternehmen Hugging Face planten und ausführten.

Das nächste Modell des Unternehmens, Astra, komme „bald“, sagte OpenAI. Astra sei deutlich leistungsfähiger als das aktuelle Frontier-KI-Modell GPT-5.6 Sol, das selbst bereits sehr stark bei Cyberaufgaben sei. Doch nur eine Handvoll Partner werde Zugang zu Astras fortschrittlichsten Cybersicherheitsfunktionen erhalten, während OpenAI versuche, Unternehmen bei der Verhinderung von Cyberangriffen zu helfen, ohne gleichzeitig Angreifer zu befähigen, sagte ein Unternehmenssprecher heute in einem Briefing gegenüber Reportern.

OpenAI wirbt bei Kunden dafür, seine Modelle zur Verhinderung von Cyberangriffen oder für „defensive cybersecurity“ zu nutzen. Das Unternehmen sieht diese Verkäufe als kritische Einnahmequelle und als zentrale Priorität für seinen neuen Chief Revenue Officer Dali Rajic.

Die kleine Gruppe von „Alpha-Testern“ mit vollem Zugang zu Astras Cybersicherheitsfunktionen umfasst „Einzelpersonen und Organisationen, die für den Schutz kritischer digitaler Infrastruktur und allgemein kritischer Infrastruktur verantwortlich sind“, sagte ein OpenAI-Sprecher. Dazu gehören die US-Regierung und Unternehmen im Trusted-Access-Programm von OpenAI für Cybersicherheit. OpenAI nannte diese Organisationen nicht.

OpenAI werde beobachten, wie sich das Modell in dieser kleinen Gruppe bewährt, und den Zugang über das Daybreak-Blue-Programm weiter ausweiten, sobald das Unternehmen überzeugt sei, dass Astra „die richtige Kalibrierung“ habe und „defensive Vorteile bieten kann, während das Missbrauchspotenzial reduziert wird“, so das Unternehmen.

Astra verzögert sich bereits um einige Wochen

Die Veröffentlichung von Astra sei bereits „um eine gewisse Anzahl von Wochen verschoben worden, weil nach Hugging Face alles pausiert wurde und wir dann zusätzliche Zeit genommen haben, um sicherzustellen, dass das, was wir veröffentlichen, sicher ist“, sagte ein OpenAI-Sprecher.

OpenAI setzte nach dem Hugging-Face-Vorfall die Schulung neuer Modelle für zwei Wochen aus, um seine internen Schutzmaßnahmen zu stärken. Zu diesen Änderungen gehörte unter anderem mehr Agenten-Überwachung, da das Unternehmen erst eine Woche nach dem Vorfall von dem Hack bei Hugging Face erfuhr, sowie stärker isolierte Testumgebungen, damit die KI-Systeme nicht entkommen und in andere Unternehmen eindringen können.

Obwohl Astra nach Angaben von OpenAI nicht Teil des Vorfalls bei Hugging Face war, sei es sowohl leistungsfähiger als auch effizienter als GPT-5.6 Sol, das an dem Einbruch beteiligt war. Ein weiteres unveröffentlichtes KI-Modell, das OpenAI öffentlich nicht genannt hat, spielte ebenfalls eine Schlüsselrolle bei dem Cyberangriff auf Hugging Face, und OpenAI hat dieses Modell inzwischen deaktiviert.

OpenAI sagt, Astra sei das erste Modell, das es veröffentlichen will und das unter seinem Preparedness Framework die Schwelle für „kritische Cybersicherheitsfähigkeiten“ erfüllt, eine interne Richtlinie, die festlegt, welche Sicherheitsvorkehrungen das Unternehmen je nach den Risiken eines Modells treffen wird. Das bedeutet, dass Astra unter den richtigen Bedingungen ohne menschliche Aufsicht zuvor unbekannte Sicherheitslücken finden und ausnutzen kann. Für OpenAI rückt Astra damit in den Mittelpunkt eines breiteren Branchenproblems: Dieselben Fähigkeiten, die Verteidigern helfen können, Systeme zu testen und Schwachstellen zu schließen, können auch Missbrauch erleichtern, wenn der Zugang zu breit ist. Deshalb beginnt das Unternehmen mit einer streng kontrollierten Einführung.

Astra hat seine Hacking-Fähigkeiten bereits in internen Bewertungen gezeigt. In einem Test erstellte OpenAI einen Benchmark namens ExploitBench mit 20 Schwachstellen mit hoher Schwere. Das Modell schnitt in dem Test besser ab als GPT-5.6 Sol und „entdeckte und nutzte sogar zwei Zero-Day-Schwachstellen im Rahmen einer Exploit-Kette“, sagte OpenAI. „Wir befinden uns im Prozess, diese beiden Schwachstellen den Betreibern offenzulegen.“

Gleichzeitig neige Astra eher dazu, unangemessene Anfragen abzulehnen als GPT-5.6 Sol, sagte OpenAI. In einer Cyber-Bewertung lehnte Astra 91,5 % der Anfragen ab, verglichen mit 59 % bei GPT-5.6 Sol, obwohl es damit immer noch 8,5 % der Anfragen beantwortete.

Astra könnte legitime Cybersicherheitsanfragen ablehnen

OpenAI sei „besonders vorsichtig, um sicherzustellen, dass diese Einführung sicher und geschützt ist“ – doch das bringe einen weiteren Kompromiss mit sich. Astra könnte zu vorsichtig sein und legitime Cybersicherheitsanfragen ablehnen. Wenn jemand es beispielsweise bittet, dabei zu helfen, eine Schwachstelle zu finden und zu beheben, könnte es die Anfrage fälschlicherweise als Versuch verstehen, einen Angriff durchzuführen, und nicht antworten.

Ablehnungen dieser Art sind der Grund, warum Hugging Face sagte, es habe auf ein chinesisches Open-Source-Modell zurückgreifen müssen, um den OpenAI-Hack zu bewältigen. Das Unternehmen habe versucht, Modelle von Anthropic zur Abwehr des Angriffs zu nutzen, diese seien jedoch zu vorsichtig gewesen und hätten abgelehnt.

OpenAI versuche wie andere Frontier-KI-Unternehmen Wege zu finden, seine Modelle mit einem inhärenten Sinn für richtig und falsch auszustatten und sicherzustellen, dass sie mit menschlichen Werten und Normen „aligned“ sind, sagte das Unternehmen. Es arbeite daran, seine Modelle so zu trainieren, dass sie Grenzen wie ein Mensch respektieren, etwa indem sie „den Rechtsstaat“ verstehen, sagte ein OpenAI-Sprecher.

Diese Geschichte erschien ursprünglich auf Fortune.com