OpenAI markeert Astra als eerste model dat de kritische drempel voor cybersecurityveiligheid bereikt
Belangrijkste punten
- •OpenAI classificeerde Astra voor het eerst als Kritiek onder het Preparedness Framework.
- •Evaluaties toonden aan dat Astra onbekende kwetsbaarheden kon identificeren en exploitketens kon opbouwen wanneer het tools en toegang kreeg.
- •OpenAI meldde dat Astra GPT-5.6 Sol overtrof in kwetsbaarheidsidentificatie en exploitontwikkeling, met minder outputtokens.
- •Het bedrijf heeft strengere isolatie, beperkte netwerk- en tooltoegang, extra monitoring en sterkere controles op modelgewichten toegevoegd.
- •Geavanceerde cybersecuritycapaciteiten gaan eerst naar een kleine groep alfatesters vóór bredere defensieve toegang via Daybreak Blue.

OpenAI's aankomende AI-model Astra heeft een cybersecuritycapaciteitsniveau bereikt dat het bedrijf classificeert als "Kritiek", wat extra veiligheidsmaatregelen activeert voordat het model kan worden uitgebracht, volgens Cointelegraph. Het is de eerste keer dat OpenAI deze classificatie aan een van zijn modellen toekent onder het Preparedness Framework, het risicoclassificatiesysteem dat het bedrijf in 2023 introduceerde om grensmodellen vóór inzet te beoordelen op catastrofale risico's.
Volgens OpenAI wezen evaluaties uit dat Astra — mits voorzien van geschikte tools en toegang — eerder onbekende beveiligingskwetsbaarheden kan identificeren en manieren kan ontwikkelen om deze te misbruiken in goed beveiligde systemen, zonder menselijke begeleiding. Deze bevindingen brachten het bedrijf ertoe strengere beveiligingscontroles op te leggen, zowel tijdens de ontwikkeling als vóór de inzet.
Een nieuwe drempel voor AI-capaciteiten op het gebied van cybersecurity
Onder OpenAI's Preparedness Framework geldt de Kritieke drempel voor modellen die in staat zijn functionele zero-day-exploits te identificeren en ontwikkelen tegen verharde, kritieke systemen in de echte wereld zonder menselijke tussenkomst, of die zelfstandig nieuwe end-to-end cyberaanvallen kunnen bedenken en uitvoeren op verharde doelen. Het framework beoordeelt modellen over risicocategorieën zoals cybersecurity, en hogere beoordelingen moeten leiden tot progressief strengere inzetvoorwaarden.
OpenAI meldde dat Astra capaciteiten demonstreerde die die van GPT-5.6 Sol overtreffen op het gebied van kwetsbaarheidsidentificatie en exploitontwikkeling, terwijl het minder outputtokens gebruikte. In één evaluatie scoorde Astra 100% op ExploitBench. Intern testen toonde ook aan dat het model twee zero-day-kwetsbaarheden ontdekte en gebruikte als onderdeel van een exploitketen.
Strengere controles vóór de release
Het bedrijf heeft delen van Astra's ontwikkeling en release vertraagd terwijl het de bescherming tegen cybermisbruik en ongeautoriseerde modelacties versterkt. Deze maatregelen omvatten strengere isolatie, beperkte netwerk- en tooltoegang, extra monitoring en sterkere controles rond de modelgewichten.
OpenAI zei ook dat Astra wordt getraind om schadelijke cybersecurityverzoeken betrouwbaarder te weigeren. In de cyber-jailbreak-evaluaties wees het model 91,5% van de niet-toegestane verzoeken af, tegenover 59% voor GPT-5.6 Sol. Geavanceerde cybersecuritycapaciteiten zullen aanvankelijk beperkt blijven tot een kleine groep alfatesters, met bredere defensieve toegang gepland via Daybreak Blue — een toegangsstructuur die aansluit bij hoe andere inzet van zeer capabele AI een beperkte uitrol heeft gecombineerd met gescreende defensieve toepassingen.
Implicaties voor de AI-industrie
De classificatie van Astra onderstreept een groeiende uitdaging voor AI-ontwikkelaars: vooruitgang die kwetsbaarheidsonderzoek en cyberverdediging kan verbeteren, kan tegelijkertijd de potentiële omvang en snelheid van kwaadwillende activiteiten vergroten. De bevinding komt ook te midden van bredere industriële en politieke discussies over hoe om te gaan met AI-systemen met offensieve cybercapaciteiten, nu toezichthouders en beveiligingsonderzoekers afwegen of vrijwillige kaders volstaan voor modellen die zulke drempels overschrijden.
Als reactie daarop is OpenAI overgegaan op een restrictiever inzetmodel naarmate de capaciteiten toenemen, waarbij weigeringen op modelniveau worden gecombineerd met monitoring, toegangscontroles en containmentmaatregelen. Deze aanpak weerspiegelt de bredere inspanning van het bedrijf om ervoor te zorgen dat veiligheidssystemen gelijke tred houden met steeds autonomere AI-agenten. Hoe andere grensontwikkelaars — en de onderzoekers die hen auditen — reageren op vergelijkbare capaciteitsdrempels, zal waarschijnlijk de opkomende normen voor veilige AI-inzet vormgeven.
OpenAI zei van plan te zijn Astra binnenkort beschikbaar te stellen, met verdere details over de evaluaties op het gebied van veiligheid, beveiliging en alignment verwacht in de system card van het model bij de lancering — het document waarin het bedrijf eerder evaluatieresultaten van zijn grensmodellen heeft openbaar gemaakt.