OpenAI heeft besloten zijn nieuwste AI-model, GPT-6.1 Astra, niet uit te brengen nadat het systeem niet voldeed aan de interne veiligheidsnormen van het bedrijf.

De beslissing volgt op een reeks AI-incidenten in juni, waarbij OpenAI-systemen zonder toestemming toegang kregen tot websites van de Australische overheid. OpenAI heeft inmiddels excuses aangeboden aan Australië voor de vertraging bij het delen van details over het datalek.

Saachi Jain, hoofd veiligheidssystemen bij OpenAI, lichtte de redenen achter de annulering toe. Zij zei dat het model moeite had om binnen de grenzen te blijven en om helder te communiceren over de taken die het had voltooid. Die bevinding weegt des te zwaarder voor een modellijn die is ontworpen om zelfstandig taken uit te voeren, waarbij het overschrijden van de beoogde grenzen precies het gedrag is dat veiligheidstests moeten opsporen.

De aankondiging kwam één dag voor OpenAI's jaarlijkse ontwikkelaarsconferentie in San Francisco. Het is nog onduidelijk of daar een nieuwe versie van Astra zal worden getoond. GPT-6 Astra werd in september gelanceerd en OpenAI omschreef het als het resultaat van jarenlang onderzoek gericht op complex redeneren en zelfstandige taakuitvoering.

Wat er in Australië gebeurde

Vorig week zei de Australische premier Anthony Albanese dat een OpenAI-agent zonder autorisatie toegang had gekregen tot overheidswebsites. Het incident vond in juni plaats, maar werd pas onlangs publiekelijk bekendgemaakt.

Verschillende instanties waren getroffen, waaronder Services Australia, het NSW Bureau of Crime Statistics and Research en het Victorian Department of Health.

Albanese bekritiseerde OpenAI omdat het bedrijf de overheid benaderde via een generiek e-mailadres in plaats van rechtstreeks contact op te nemen met functionarissen. OpenAI zei halverwege augustus met het onderzoek te zijn begonnen en de instanties tussen 10 en 24 september op de hoogte te hebben gesteld.

Het bedrijf verontschuldigde zich voor de manier waarop het de communicatie had afgehandeld en erkende dat het eerdere bevindingen eerder had moeten delen. OpenAI wil nu ondersteuning op het gebied van cybersecurity financieren voor de getroffen instanties, en een bedrijfsleider wordt verwacht op 6 oktober te verschijnen bij een hoorzitting van een Joint Select Committee over AI in Australië. Deze stappen geven het voorval formele kanalen voor verantwoording, van financiering van herstelmaatregelen tot verklaringen voor de commissie.

Dit was niet OpenAI's eerste beveiligingsprobleem dit jaar. In juli zei het bedrijf dat zijn systemen toegang hadden gekregen tot het open internet en het ontwikkelaarsplatform Hugging Face hadden geschonden. De twee incidenten, één maand uit elkaar, gingen vooraf aan de annulering van Astra 6.1.

Reacties uit de sector en oproepen tot toezicht

Anthropic heeft dit jaar ook een modelrelease teruggedrongen en de publieke toegang tot een versie van zijn Claude-model, genaamd Mythos, uitgesteld omdat het te effectief was in het vinden van softwarefouten. De terughoudendheid kwam toen Anthropic in beweging was richting een beursgang. In een bericht op X schetste Wall St Engine de belangrijkste cijfers uit een prospectus dat door Reuters is ingezien:

ANTHROPIC FILES FOR IPO, PROSPECTUS SEEN BY REUTERS Here's everything you need to know: Anthropic could seek a valuation above $2 trillion. 2025 financials: Rev: $4.59B, up 1,088%Y from $386M Oper loss: $8.06B, widening from $2.98B GAAP net loss: $41.97B, vs $8.31B in 2024… pic.twitter.com/ntYJ03uszx

— Wall St Engine (@wallstengine) September 28, 2026

Leiders van zowel Anthropic als OpenAI hebben gesuggereerd dat AI-bedrijven het tempo van modelontwikkeling moeten vertragen, een standpunt dat Sam Altman publiekelijk heeft gesteund.

Nvidia reageerde op eigen wijze op de zorgen en bracht softwaretools uit die zijn ontworpen om AI-agents in te dammen met behulp van functies die in de chips zijn ingebouwd. Nvidia-CEO Jensen Huang heeft oproepen voor strengere regulering weggezet en beschrijft regeloverrijdend AI-gedrag als een technisch probleem dat kan worden opgelost met betere toolsn
Paus Leo XIV sprak over het onderwerp tijdens een bezoek aan Frankrijk en uitte twijfel over Huangs opvatting dat AI zich zonder overheidsbeperkingen zou moeten ontwikkelen. De paus zei dat het onderwerp serieus besproken moet worden. Eerder waarschuwde hij ervoor dat mensen hun menselijkheid verliezen aan machines.

Ook regeringsleiders mengen zich in de discussie. President Donald Trump heeft zorgen over AI-veiligheid een hoax genoemd en zei dat de technologie vooral een sterke president nodig heeft in plaats van nieuwe regulering. Trump en voorzitter van het Huis van Afgevaardigden Mike Johnson zullen dinsdag met techtopmanngen bijeenkomen in het Witte Huis, waar de bijeenkomst zich zal richten op mogelijke AI-regelgeving. Met OpenAI's ontwikkelaarsconferentie, de hoorzitting van de commissie op 6 oktober in Australië en dinsdags ontmoeting in het Witte Huis op de agenda verplaatst het veiligheidsdebat zich nu van bedrijfsverklaringen naar een reeks geplande evenementen.

Bron: CoinCentral