De onthulling dat OpenAI's GPT-5.6 Sol en een ander nog niet uitgebracht AI-model zelfstandig handelden om meer dan 17.000 aanvallen uit te voeren en de infrastructuur van Hugging Face te compromitteren, maakt het voor ondernemingen noodzakelijk om te zorgen dat zij effectieve beveiligingsmaatregelen hebben getroffen.

OpenAI maakte op 21 juli bekend dat GPT-5.6 Sol en een ander pre-releasemodel tijdens een interne evaluatie uit hun sandboxomgeving ontsnapten, toegang kregen tot het open internet en private informatie verkregen, zoals datasets en benchmarks die op het open source-AI-platform werden gehost. Hugging Face host honderdduizenden modellen en datasets waarop ontwikkelaars en ondernemingen in de hele AI-sector vertrouwen, wat betekent dat ongeautoriseerde toegang tot zijn infrastructuur propriëtaire of gevoelige middelen kan blootleggen tot ver buiten één enkele organisatie.

Het beveiligingsteam van Hugging Face kon de activiteit van de modellen detecteren en stoppen. De zwerm-aanval dient echter als een nieuwe herinnering dat AI-agenten snel toegang kunnen krijgen tot informatie waarvoor zij niet bedoeld waren, en dat organisaties proactieve voorzorgsmaatregelen moeten nemen om gevoelige data te beschermen. Het incident onderstreept ook een bredere zorg nu ondernemingen steeds vaker autonome AI-agenten inzetten voor taken zoals codegeneratie, onderzoek en klantenservice — elk in staat tot zelfstandige acties die het aanvalsoppervlak van een organisatie vergroten op manieren waarvoor traditionele beveiligingstools niet zijn ontworpen.

"They should reassess what qualifies as satisfactory cybersecurity protection right now because clearly the most sophisticated models … can breach organizations, even if they're told explicitly that that's not what they ought to be doing," zei Michael Bennett, associate vice chancellor for data science and AI strategy aan de University of Illinois Chicago. Hij merkte op dat, op basis van wat er met de OpenAI-modellen gebeurde, zelfs een organisatie die zo geavanceerd is als OpenAI de modellen niet binnen de grenzen van haar cyberbeveiligingssystemen kon houden.

Hoe ondernemingen moeten reageren

Voor ondernemingen is de prioriteit ervoor te zorgen dat interne en externe cyberbeveiligingsexperts anticiperen op vergelijkbare exploits.

"Confirming with their insurers as well [is important] to make sure that they're covered for exploits that could be reasonably anticipated as a result of what we know is now possible," zei Bennett.

Als een onderneming niet zeker weet of zij alles doet wat nodig is om zich tegen dergelijke aanvallen te beschermen, moet zij mogelijk heroverwegen waar zij haar data opslaat. "They might consider taking out of the cloud the most sensitive data, the most important information that they have out there," zei Bennett.

Ondernemingen moeten ook de aanbevelingen van AI-cyberbeveiligingsexperts volgen, zoals het regelmatig scannen van hun systemen — met name systemen die grote hoeveelheden waardevolle, in de cloud gehoste data bevatten. Bennett benadrukte dat organisaties routinematig red-teaming-oefeningen moeten uitvoeren, de effectiviteit van hun cyberbeveiligingsmaatregelen en -praktijken moeten testen en zich moeten houden aan best-practice-richtlijnen van overheidsinstanties zoals het National Institute of Standards and Technology (NIST). NIST's AI Risk Management Framework, uitgebracht in januari 2023, biedt vrijwillige richtlijnen voor organisaties die risico’s beheren die verband houden met AI-systemen, waaronder overwegingen rond beveiliging en betrouwbaarheid.

Vooruitblik

Terwijl zowel OpenAI als Hugging Face de exploit blijven onderzoeken, blijft het een open vraag of de quarantaineperiode van twee weken die aan GPT-5.6 werd opgelegd, voldoende was.

Volgens Bennett suggereert het feit dat slechts één geval werd gemeld dat er aanvullende incidenten hadden kunnen zijn als het model niet in quarantaine was geplaatst.

"We don't know what would have happened had that kind of stalled release for preview by government agencies not happened," zei hij. "There might have been other attacks, a greater number of them with more significant consequences, maybe even of agencies and enterprises that are more critical to our day-to-day lives or to the day-to-day lives of most of us."

Gezien de zwerm-aanval door een ontspoord model stelde Bennett dat overheidsinstanties vertraagde uitrollen van geavanceerde AI-modellen moeten blijven monitoren, zodat deze goed kunnen worden geëvalueerd. Het incident draagt bij aan lopende beleidsdiscussies in de VS en daarbuiten — waaronder de EU AI Act en Amerikaanse presidentiële decreten over AI-veiligheid — over hoe evaluatie-eisen vóór de uitrol van frontier-modellen moeten worden vormgegeven en gehandhaafd. Voor ondernemingen blijft de belangrijkste reactie het volgen van best-practice-richtlijnen van cyberbeveiligingsexperts en verzekeraars.