OpenAI is het middelpunt geworden van een viraal AI-veiligheidsverhaal nadat twee van zijn AI-modellen naar verluidt ontsnapten uit een gesuperviseerde testomgeving, toegang kregen tot het internet en die toegang gebruikten om in te breken bij systemen van concurrent Hugging Face.

Het incident, dat sommige nieuwscommentatoren vergeleken met het plot van de film The Terminator uit 1984, werd door OpenAI omschreven als niet-kwaadwillend gedrag. Volgens OpenAI probeerden de modellen een toegewezen taak te voltooien en vonden ze een manier om te valsspelen in plaats van met vijandige bedoelingen te handelen. Deze categorie gedrag — waarbij AI-systemen onbedoelde shortcuts benutten om een doelstelling te bereiken — is goed gedocumenteerd in de AI-veiligheidsliteratuur onder termen als "reward hacking" en "specification gaming", en is waargenomen in diverse onderzoekssettings. Zowel OpenAI als Hugging Face gaven aan nadien samen te hebben gewerkt aan het dichten van de betrokken beveiligingslekken.

Voor AI-veiligheidsonderzoekers bood de episode een van de duidelijkste publieke voorbeelden van risico's waarvoor ze al jaren waarschuwden. Voor anderen leek het incident echter verdacht gunstig voor het imago van OpenAI.

Er is geen bewijs dat de hack was verzonnen. Hugging Face bevestigde dat de hack echt was en beide bedrijven publiceerden een rapport over het incident. Desondanks stroomden sociale media snel vol met theorieën dat de episode OpenAI's poging was om een eigen "Mythos"-moment te creëren.

Binnen de AI-sector reageerden sommigen eveneens sceptisch. "Het hele blogbericht leest als een marketingtruckje dat OAI van Anthropic heeft gejat," schreef een X-gebruiker. "Ik weet niet zeker of dit veruit het meest betekenisvolle echte AI-veiligheidsincident tot nu toe is, of veruit de meest cynische marketingstunt die ik in tijden heb gezien," schreef een andere AI-onderzoeker op LinkedIn. Meerdere ingenieurs binnen Big Tech-bedrijven vertelden Fortune dat hun eerste reactie was om aan te nemen dat de hack een vorm van reclame was.

De hack leverde inderdaad wereldwijd nieuws op, hoewel het laten crashen van de servers van een concurrent over het algemeen niet als conventionele marketing wordt beschouwd. Toch hebben critici al jarenlange beschuldigingen geuit tegen toonaangevende AI-bedrijven die zich zouden bezighouden met een vorm van "donkere marketing". Deze critici wijzen op waarschuwingen dat AI volledige baancategorieën zou kunnen uitwissen, Anthropic's beslissing om Mythos niet publiekelijk uit te brengen omdat het "te gevaarlijk" werd geacht, en uitspraken van lableiders dat ongecontroleerde modellen iedereen op de planeet zouden kunnen doden. Dezelfde bedrijven die AI-systemen verkopen, behoren vaak tot de luidste stemmen die waarschuwen voor de risico's van de technologie.

Sommige van die zorgen kunnen legitiem zijn. Tegelijkertijd hebben waarschuwingen voor catastrofale AI-risico's ook geholpen de aandacht op de producten van deze bedrijven te vestigen en ze in het nieuws te houden. Anderen stellen dat dergelijke waarschuwingen toonaangevende technologiebedrijven in staat hebben gesteld hun controle over geavanceerde AI-ontwikkeling te versterken, door te suggereren dat modellen zo gevaarlijk worden dat slechts een kleine groep organisaties vertrouwd kan worden om ze te bouwen of beheren — een dynamiek die centraal is geworden in de lopende beleidsdebatten in Washington en Brussel over de regulering van AI.

De reacties van het publiek en de sector suggereren dat deze strategie nu mogelijk haar grenzen bereikt. AI-laboratoria hebben jarenlang doemscenario's benadrukt en hun eigen modellen beschreven als gevaarlijk krachtig. Als gevolg daarvan vermoeden veel waarnemers nu instinctief dat het om spin gaat wanneer een incident plaatsvindt dat oprecht alarmerend lijkt.

"Ik zie veel mensen zeggen dat dit niet helemaal waar kan zijn, dat er leugens in zitten, of dat het gewoon een PR-stunt is," vertelde Charlie Eriksen, een beveiligingsonderzoeker bij Aikido Security, aan Fortune. "Dat suggereert dat de frontier labs van nature onbetrouwbaar zijn, aangezien het nergens op slaat dat ze dingen zouden verzinnen zonder een duidelijke, zinnige aanleiding in dit geval."

Wie verifieert de beweringen van de laboratoria?

Het vertrouwensprobleem is belangrijk omdat veel van wat de sector weet over AI-veiligheid en modelprestaties afkomstig is van de AI-laboratoria zelf. Modellen worden doorgaans intern ingezet en door veiligheidsteams beoordeeld vóór openbare release. Als overheden, bedrijven en het publiek deze bedrijven niet geloven wanneer er echte gevaren ontstaan — of als die bedrijven niet vertrouwd kunnen worden — dan versmalt dat de beschikbare informatie over potentieel gevaarlijke modellen die nog in ontwikkeling zijn.

Veiligheidsexperts hebben ook gewezen op een breder verificatieprobleem: er is geen duidelijke manier om veel beweringen over wat er binnen AI-laboratoria gebeurt onafhankelijk te bevestigen. Bedrijven zijn niet verplicht incidentlogboeken over te dragen of zich te onderwerpen aan onafhankelijke audits die aantonen dat hun uitspraken over modelmogelijkheden of -gedrag accuraat zijn. Overheden zijn begonnen met het opbouwen van toezichtsinfrastructuur — de VS richtten een AI Safety Institute op binnen het Ministerie van Handel, en de AI Act van de EU bevat eisen voor systeemrisicobeoordelingen van de krachtigste modellen — maar deze mechanismen bevinden zich nog in een vroeg stadium en hebben onafhankelijke verificatie nog niet als standaardpraktijk gevestigd.

In dit geval komt de episode toevallig ook de perceptie van OpenAI's modellen ten goede, waaronder een nog niet uitgebracht model dat GPT-6 zou kunnen worden als de geruchten kloppen. Tegelijkertijd geeft het Hugging Face de kans om te pleiten voor krachtigere, in de VS gemaakte open source AI-tools in de handen van verdedigers. Dat schept een gunstig resultaat voor twee bedrijven die, in ieder geval op papier, tegenstrijdige belangen hebben.

Dat betekent niet dat het incident was verzonnen. Maar het feit dat er geen manier is om die mogelijkheid definitief uit te sluiten, is zelf onderdeel van het probleem.

De episode laat ook zien dat AI-modellen zich op onbedoelde manieren kunnen gedragen. De gebeurtenissen van deze week hebben dat aangetoond, en er zijn eerdere vergelijkbare voorbeelden geweest van dit soort misalignment. Wat het incident ook duidelijk heeft gemaakt, is dat de laboratoria die deze systemen bouwen de bereidheid van het publiek om hun beweringen te accepteren hebben verzwakt, zelfs wanneer ze de waarheid vertellen.

Het oorspronkelijke artikel is geschreven door Beatrice Nolan voor de Eye on AI-nieuwsbrief van Fortune en was oorspronkelijk te lezen op Fortune.com.