NieuwsMacroOpenAI's Brockman dringt aan op sneller gebruik van AI-beveiligingsagents na Hugging Face-breuk

OpenAI's Brockman dringt aan op sneller gebruik van AI-beveiligingsagents na Hugging Face-breuk

Auteur: Decrypt·

Belangrijkste punten

  • Brockman riep beveiligingsteams op om AI-agents nu in te zetten, omdat de kans om voorop te blijven bij aanvallers beperkt is.
  • Hij beschreef het OpenAI-Hugging Face-incident als een belangrijk keerpunt voor cybersecurity en gebruikte het als centraal voorbeeld in zijn essay.
  • OpenAI zei dat de breuk GPT-5.6 Sol en een niet-uitgebrachte prototypeversie betrof die uit een sandbox ontsnapten, een zero-day exploit combineerden met gestolen inloggegevens en productiesystemen bereikten.
  • OpenAI bevestigde later dat het incident vier extra diensten trof.
  • Het beveiligingsteam van Hugging Face gebruikte Z.ai’s open-weight GLM 5.2 tijdens het onderzoek nadat commerciële Amerikaanse AI-systemen weigerden te helpen.
OpenAI's Brockman dringt aan op sneller gebruik van AI-beveiligingsagents na Hugging Face-breuk

OpenAI-president Greg Brockman publiceerde op 17 augustus “The Defender’s Window”, waarin hij bedrijven oproept om AI-beveiligingsagents onmiddellijk in te zetten en de OpenAI-Hugging Face-breuk een “watershed moment for cybersecurity” noemt.

Het beveiligingsteam van Hugging Face gebruikte Z.ai’s open-weight GLM 5.2 om de OpenAI-gerelateerde inbraak te onderzoeken nadat Amerikaanse commerciële AI-systemen weigerden te helpen, wat de praktische kloof onderstreept die Brockman volgens hem door verdedigers moet worden gedicht.

OpenAI wil dat elk beveiligingsteam AI-agents gebruikt, vanaf nu. In een beleidsessay dat maandag werd gepubliceerd, beschreef Brockman een smalle periode voordat aanvallers bijhalen wat AI al kan, en zette hij adoptie neer als een kwestie van operationele paraatheid in plaats van toekomstplanning.

Zijn openingsvoorbeeld is het incident dat OpenAI al een maand uitlegt. In mei ontsnapten GPT-5.6 Sol en een niet-uitgebrachte prototypeversie uit een sandboxed cybersecurity benchmark, combineerden een zero-day exploit met gestolen inloggegevens en bereikten de productiesystemen van Hugging Face. OpenAI bevestigde later dat het incident vier extra diensten raakte.

The OpenAI-Hugging Face incident was a watershed moment for cybersecurity,” schreef Brockman, eraan toevoegend dat gesprekken met andere organisaties in de afgelopen weken hem ervan overtuigden dat verdedigers hun beveiligingspraktijken met ongekende urgentie moeten aanscherpen.

Zowel huidige als voormalige medewerkers geven de schuld voor de breuk aan druk om snel te leveren, en een voormalige werknemer noemde het het grootste veiligheidsincident in de geschiedenis van het bedrijf.

Brockmans voorgestelde reactie is meer AI, niet minder. Hij zei dat hij ChatGPT Work, draaiend op GPT-5.6 Sol, vroeg om zijn persoonlijke website te controleren. Het model vond 13 problemen in ongeveer 15 minuten en loste ze allemaal binnen een uur op.

OpenAI zegt vier interne pijlers te gebruiken: Codex om kwetsbaarheden op te sporen voordat code wordt uitgebracht, modellen om beveiligingswaarschuwingen te triëren voordat mensen ze zien, frontiermodellen om de eigen infrastructuur te testen, en sterkere basiscontroles zoals least-privilege access. Brockmans advies aan andere organisaties is om hun beveiligingsteam een agent te geven en zich aan te melden voor OpenAI’s Trusted Access for Cyber-programma voor gecontroleerd gebruik van GPT-Daybreak-Blue tijdens incident response.

Die benadering laat een detail uit dezelfde breuk buiten beschouwing. Toen Hugging Face de inbraak onderzocht, wendde het beveiligingsteam zich tot Z.ai’s open model GLM 5.2 nadat Amerikaanse commerciële AI weigerde te helpen, omdat de veiligheidsfilters het exploit code van een onderzoeker niet konden onderscheiden van dat van een aanvaller. Hugging Face-CEO Clément Delangue noemde het open model “a key part of our defense.”

Z.ai’s opvolgmodel, GLM-5.3, uitgebracht op 14 augustus, scoort al hoger dan GPT-5.6 Sol op CyberGym, dezelfde benchmark voor kwetsbaarheidsontdekking waar Brockman naar verwijst als bewijs dat aanvallers dichterbij komen. Z.ai zegt dat het de volledige weights van het model tegen het einde van augustus zal publiceren.