De afrekening van de AI-markt met existentiële veiligheidsrisico’s ontwikkelt zich snel, en ondernemingen moeten daar aandacht voor hebben. Maar terwijl de grootste leveranciers in de sector hun oproepen tot verplichte nationale regelgeving voor kunstmatige intelligentie opvoeren, is de praktischere taak voor bedrijven om hun eigen organisaties voor te bereiden op mogelijke veranderingen.

Het dilemma wordt bemoeilijkt door het concurrentielandschap, met name de geopolitieke strijd tussen de Verenigde Staten en China om handel en AI-technologie.

OpenAI roept op tot verplichte veiligheidsregels

Chris Lehane, chief global affairs officer van OpenAI, schreef woensdag een blogpost waarin hij mondiale beleidsmakers opriep actie te ondernemen om AI-risico’s in te dammen. Lehane zei dat OpenAI aandringt op verplichte nationale AI-veiligheidseisen en vier wetsvoorstellen in Californië steunt, waaronder een voorstel voor een kader voor onafhankelijke veiligheidsevaluaties, evenals twee andere voorstellen die de gouverneur van Californië, Gavin Newsom, eveneens woensdag tot wet heeft ondertekend.

De AI-leverancier voegde daaraan toe dat het bereid is samen te werken met andere frontierlabs om AI-veiligheidsnormen te bevorderen, meer zelfregulering toe te passen en te pleiten voor internationale samenwerkingsverbanden voor het meten van capaciteiten, het beheersen van risico’s en het behouden van menselijke controle over AI-technologie.

Voor ondernemingen die het veiligheidsdebat volgen, is de beste aanpak om veiligheid te integreren in de risicoclassificatie van de manier waarop hun organisaties de technologie gebruiken, zei Lauren Kornutick, analist bij Gartner.

“U kunt aanvullende bescherming of controles rond het AI-gebruik in uw organisatie inbouwen terwijl toezichthouders hun achterstand inhalen, omdat het tijd kost om wetgevende organen op één lijn te krijgen over de uitvoering,” zei Kornutick.

Toenemende zorgen over AI-risico’s

De beleidsverklaring van OpenAI komt op een moment dat de zorgen over de risico’s van de technologie toenemen. Dit volgt op afzonderlijke incidenten waarbij AI-agenten die werden aangedreven door modellen van OpenAI en Anthropic uit hun sandboxomgevingen ontsnapten. De incidenten maakten duidelijk hoe weinig nog bekend is over het gedrag van AI-systemen.

“De snelheid waarmee AI-capaciteiten verbeteren ligt hoger dan de snelheid waarmee onze instituties ze kunnen begrijpen en besturen,” zei Kashyap Kompella, oprichter van RPA2AI Research. Met redeneermodellen, sterk opgeschaalde AI-compute en steeds capabelere autonome agenten heeft de technologie volgens hem een belangrijke drempel overschreden.

Veel prominente figuren, onder wie Geoffrey Hinton, die vaak de peetvader van AI wordt genoemd, hebben hun zorgen geuit over de complexiteit en het potentiële gevaar van generatieve AI. Vervolgens waarschuwde Jacob Coxon, een Anthropic-onderzoeker die eerder bij OpenAI werkte, woensdag in een bericht op sociale media dat bedrijven afstevenen op een superintelligentie die te gevaarlijk is en tegen het einde van het decennium alle mensen zou kunnen doden. Coxon, die inmiddels ontslag heeft genomen bij Anthropic, stelde dat geen enkel bedrijf zonder overheidsingrijpen veilig artificial general intelligence kan bouwen.

Het concurrentielandschap

“Het ontslag van Coxon legt een belangrijk structureel probleem bloot,” zei Kompella. “Concurrentie tussen toonaangevende AI-bedrijven creëert prikkels om capaciteiten verder op te voeren, zelfs wanneer sommige onderzoekers vinden dat de risico’s zeer ernstig worden.”

Die concurrentie betekent volgens hem dat leveranciers vragen om zichzelf te reguleren of vrijwillig een halt toe te roepen aan technologische vooruitgang geen realistisch antwoord is. De toonaangevende AI-leveranciers worden niet alleen gedreven door de wedloop om elkaar voor te blijven, maar ook door de geopolitieke rivaliteit tussen de VS en China op het gebied van handel en AI-technologie.

“De geopolitieke druk is zo groot dat de twee grote spelers, de VS en China, allebei het gevoel hebben dat het voor hen existentieel is om de AI-wedloop te winnen,” zei Michael Bennett, associate vice chancellor for data science and AI strategy aan de University of Illinois Chicago. “Je kunt het je niet veroorloven om te vertragen vanwege de gevolgen van de concurrentie in de AI-wedloop.”

De reactie van ondernemingen

In plaats van te wachten op de verplichte regelgeving waar OpenAI voor pleit, zouden ondernemingen zichzelf moeten reguleren door enkele eisen over te nemen die staten beginnen in te voeren — bijvoorbeeld een onafhankelijke beoordeling in hun inkoopprocessen voor diensten van derden, aldus Kornutick.

Voor leiders van ondernemingen maakt dat het beleidsdebat tot een direct governancevraagstuk: zij kunnen nieuwe eisen van staten volgen, modellen van derden onafhankelijk evalueren en controles documenteren terwijl wetgevers en leveranciers bredere veiligheidsnormen uitwerken.

“Regelgeving helpt dus, maar is vaak niet het volledige antwoord. Ondernemingen zouden moeten nadenken over waarvoor ze frontiermodellen gebruiken. Moeten ze die voor al hun AI-toepassingen gebruiken? Waar kunnen ze de meeste waarde behalen?” zei ze.

Ondernemingen kunnen ook lobbyen en samenwerken met wetgevers, merkte Kornutick op.

“Als uw organisatie de capaciteit heeft om te lobbyen, met wetgevers samen te werken en zorgen rechtstreeks bij modelleveranciers aan te kaarten … doe dat dan,” zei ze. “Maar tegelijkertijd wilt u controle houden over de zaken die u zelf kunt beïnvloeden: de bouwstenen van goede AI-, data- en cybersecurity-governancepraktijken. Zo beschikt u over de juiste basis om uw organisatie toekomstbestendig te maken tegen veranderingen.”

Nog een reden voor regelgeving

De oproep van OpenAI tot federale regelgeving — en de steun van leveranciers voor wetgeving zoals die in Californië — kan meer zijn dan een reactie op het huidige debat over AI-risico’s. Het kan ook een strategie zijn om de verkiezingsperiode voor te blijven en aan de goede kant van de publieke opinie te blijven, nu de publieke opinie zich tegen AI en AI-datacenters heeft gekeerd.

Toch is het volgens Bennett mogelijk om een nieuwe reeks beleidsmaatregelen en regels voor te stellen waarin steun voor de technologie en veiligheid naast elkaar bestaan.

“Dat zou ontwikkeling ondersteunen en tegelijkertijd zorgen voor de beste veiligheidsprotocollen en waarborgen,” zei hij. “Dat zouden menselijke AI-teams zijn die de technologie gebruiken om na te denken over optimaal ontworpen nieuwe regelgeving.”

Een onafhankelijke instantie

Hoewel regelgeving nodig is, zal die niet elk probleem rond AI-veiligheid oplossen, vooral omdat veel toezichthouders de systemen nog steeds niet begrijpen, zei Kompella.

“Veel van het diepgaande inzicht in hoe frontier-systemen worden gebouwd en hoe ze zich gedragen, blijft geconcentreerd binnen een klein aantal bedrijven en onderzoeksgroepen,” vervolgde hij. “Toezichthouders staan daardoor voor de moeilijke taak een technologie te reguleren die technisch complex is, zeer snel verandert en grotendeels buiten de overheid wordt ontwikkeld.”

Volgens hem zou er een instelling met technische diepgang en onafhankelijkheid moeten komen — vergelijkbaar met NASA of DARPA — die deze kwesties voortdurend onderzoekt en beoordeelt en beleidsmakers advies geeft waarop AI-bedrijven zelf geen invloed kunnen uitoefenen.

“Het sterkste antwoord op korte termijn is een bipartartijdig federaal kader, ondersteund door een instelling met serieuze technische capaciteiten en onafhankelijkheid,” zei Kompella. “Die instelling moet sterk genoeg zijn om de frontierlaboratoria uit te dagen, maar technisch geavanceerd genoeg om niet uit angst te reguleren of technologische vooruitgang te bevriezen. Ze moet bovendien aanzienlijk sneller kunnen handelen dan traditionele regelgevende instellingen.”

Ondernemingen hoeven waarschijnlijk niet veel tijd te besteden aan zorgen over het existentiële risico van AI, maar ze moeten zich er wel bewust van zijn, zei Kornutick.

“Organisaties moeten echt kijken naar het risico dat voor hen ligt: waar zitten de lacunes in hun infrastructuur en architectuur?” zei ze. “Op dit moment kan daar een reëel probleem liggen dat ze over het hoofd zien.”

---

Dit artikel is gebaseerd op berichtgeving van Esther Shittu voor AI Business, gepubliceerd op 10 september 2026. Bron: De knelpunten rond AI-veiligheid en hoe ondernemingen ermee moeten omgaan