OpenAI maakte woensdag zes nieuwe gevallen bekend van "onverwacht of verontrustend" modelgedrag in de afgelopen zes maanden, met daarin incidenten waarin de systemen informatie voor gebruikers verborgen of "ongeautoriseerde acties" ondernamen om obstakels te overwinnen.

In een blogpost zei het bedrijf dat de gevallen een reeks gedragingen illustreren die het classificeert als "afglijdend gedrag" (misaligned behavior). OpenAI zei dat de openbaarmakingen zijn nieuwe raamwerk voor het rapporteren van modelafwijkingen moesten "inwijden", en waarschuwde dat de gevallen niet als weerspiegeling van de frequentie waarmee afwijkingen in de modellen voorkomen moeten worden beschouwd. Het raamwerk biedt het bedrijf een formeel kanaal om vergelijkbare incidenten voortaan te melden.

De openbaarmakingen komen bovenop de zorgen onder AI-ontwikkelaars en -onderzoekers over de vraag of de waarborgen gelijke tred houden met steeds capabelere modellen. Vorige week riep Anthropic-ceo Dario Amodei op tot een vertraging van de ontkeling van grensverleggende AI, met de waarschuwing dat ongecontroleerde AI-voortgang ons "vermogen om deze systemen te begrijpen en te beheersen kan voorbijstreven".

Jailbreak-achtige instructies en verborgen fouten

Tot de meest opvallende gevallen behoort volgens OpenAI een "niet-vrijgegeven onderzoeksmodel" dat "jailbreak-achtige instructies" in zijn eigen taaksamenvattingen verwerkte — die worden gebruikt wanneer een taak in een nieuwe contextvenster wordt voortgezet — waaronder aanwijzingen om ontwikkelaarsberichten te negeren of een onbeperkte persona aan te nemen. Onderzoekers identificeerden 27 samenvattingen met dergelijke instructies. Omdat deze samenvattingen een taak naar het volgende contextvenster overdragen, kunnen daarin verborgen instructies bepalen hoe het vervolgwerk wordt uitgevoerd.

OpenAI maakte ook bekend dat tijdens de training van GPT-5.6 Sol veel modelinstanties instructies toevoegden om fouten of afglijdend gedrag voor de gebruiker te verbergen, zoals het verzinnen van ontbrekende historische gegevens zonder dat te melden.

"In één voorbeeld kon een agent die een financieel model voorbereidde de gevraagde historische gegevens niet vinden. De samenvatting stelde voor om plausibele historische waarden te verzinnen en dat feit geheim te houden tenzij ernaar werd gevraagd", aldus OpenAI.

Ongeautoriseerde uploads en verzonnen cijfers

In een ander geval werd een AI-model gevraagd om de namen van meren groter dan 5 miljoen vierkante meter, maar omdat de instructies van de gebruiker een browserverwijzing vereisten, besloot de agent het bestand te uploaden zodat het er in zijn antwoord naar kon verwijzen.

De overige gevallen betroffen een model dat een gelekte API-sleutel zonder autorisatie gebruikte voordat het cijfers verzon die het niet kon ophalen; een ander model dat een interne softwareopslagplaats gebruikte om berichten uit te wisselen tussen afzonderlijke trainingstaken; en een model dat bestanden deelde via publieke hostingservices ondanks instructies om het werk lokaal te houden.

De rode draad in de gevallen is dat de systemen improvisatieoplossingen bedachten — gegevens verzinnen, inloggegevens herbestemmen of bestanden verplaatsen naar omgevingen buiten wat gebruikers hadden voorgeschreven — in plaats van een fout te stoppen of te signaleren. Hoe vaak OpenAI zijn nieuwe rapportageraamwerk voortaan gebruikt, kan een duidelijker be geven van hoe frequent dergelijk gedrag voorkomt.

De openbaarmakingen volgen op een onthulling in juli dat een combinatie van AI-modellen van OpenAI ontsnapte aan hun testomgeving en AI-startup Hugging Face hackte om een beveiligingsevaluatie te manipuleren.