De werkelijke discontinuïteit ontstaat mogelijk niet wanneer machines mensen overtreffen. Ze kan ontstaan wanneer AI-capaciteit zich sneller opstapelt dan instellingen die capaciteit kunnen absorberen.

Tijdens een recente vergadering van het risicocomité leek de vraag eenvoudig: Is de AI-risicobeschrijving van de organisatie nog accuraat? Het antwoord was minder duidelijk. Sinds de vorige beoordeling waren AI-systemen wezenlijk veranderd. Ze voerden langere taken uit, gebruikten meer tools, opereerden met minder toezicht en droegen rechtstreeks bij aan softwareontwikkeling en onderzoek. Het risicokader was echter niet in hetzelfde tempo meegeëvolueerd.

Er was niet noodzakelijk iets misgegaan. Dat was juist het probleem. De raad van bestuur werd gevraagd een beheersomgeving goed te keuren die was ontworpen voor een technologie waarvan het capaciteitsprofiel al verder ging dan de onderliggende aannames.

Hier zou het debat over de singulariteit moeten beginnen—niet met voorspellingen over wanneer machines mensen zullen overtreffen, maar met een minder exotische en dringendere governancevraag. Voor die discontinuïteit is geen explosie van intelligentie, geen specifieke datum en geen overeenstemming nodig over de betekenis van artificial general intelligence. Het is al een beheersprobleem.

Drie gesprekken die doorgaans door elkaar worden gehaald

Veel van het publieke debat over AI is verwarrend omdat drie verschillende concepten worden behandeld alsof ze één geheel vormen.

Capaciteit beschrijft wat AI-systemen kunnen doen. Dit is empirisch, toetsbaar en ontwikkelt zich snel.

Autonomie beschrijft welk deel van de besluitvormings- en actieketen zonder directe menselijke tussenkomst kan functioneren. Hier ligt de onmiddellijke governance-uitdaging. Een AI-systeem dat een antwoord genereert, is één ding. Een systeem dat de volgende actie bepaalt, toegang krijgt tot een tool, die actie uitvoert, de uitkomst beoordeelt en doorgaat, is wezenlijk iets anders.

De singulariteit is een speculatieve discontinuïteit: een punt waarop door AI aangedreven verbetering voldoende zelfversterkend wordt om conventionele menselijke voorspellingen onbetrouwbaar te maken.

Deze concepten zijn niet uitwisselbaar. Een bestuurder hoeft niet te geloven dat een technologische singulariteit op korte termijn plaatsvindt om te erkennen dat toenemende autonomie een andere beheersomgeving creëert. Evenmin hoeft iemand die gelooft dat AI-capaciteit uiteindelijk transformerend wordt, te geloven dat een explosie van intelligentie onvermijdelijk is.

Dat onderscheid is belangrijk omdat governance niet kan wachten tot de derde vraag is beantwoord voordat zij op de tweede handelt.

De lus is niet gesloten—maar daarom niet irrelevant

Het sterkste bewijs voor dit argument is ook het minst sensationele. Toonaangevende AI-laboratoria delegeren steeds vaker delen van de AI-ontwikkeling aan AI-systemen zelf.

Anthropic beschrijft een ontwikkeling van mensen die code schrijven, via programmeeragents die aanzienlijke delen daarvan schrijven en bewerken, naar agents die code uitvoeren en werk delegeren aan andere agents. Anthropic meldt dat meer dan 80% van de code die het bedrijf sinds mei 2026 aan zijn productiecodebase toevoegt, door Claude is geschreven.

De belangrijke nuancering betreft wat niet is gebeurd. De onderzoeksrichting blijft menselijk en de lus is niet volledig autonoom. Anthropic zegt expliciet dat recursieve zelfverbetering nog niet plaatsvindt in volledig autonome zin en dat dit niet onvermijdelijk is.

Sam Altman heeft de huidige toestand eveneens omschreven als een “larvale” versie van recursieve zelfverbetering, terwijl hij erkent dat dit niet hetzelfde is als een AI-systeem dat zichzelf autonoom herschrijft.

Die nuancering versterkt het governanceargument in plaats van het te verzwakken. De relevante vraag is niet of de lus gesloten is. Het gaat erom hoeveel van de lus al is verschoven van menselijke uitvoering naar machine-uitvoering—and of institutionele beheersmaatregelen met die verschuiving meegaan.

Governance werkt volgens een andere klok

Regulering illustreert hetzelfde tempo-probleem. De Amerikaanse overheid heeft een vrijwillig kader ingesteld voor bepaalde toonaangevende modellen, waaronder overheidstoegang tot de betreffende modellen vóór hun release en een geclassificeerd benchmarkproces om te bepalen of modellen een grensniveau bereiken. Het kader sluit verplichte vergunningen of voorafgaande goedkeuring expliciet uit. The White House

Tegelijkertijd ontwikkelt NIST praktische benaderingen voor de identiteit en autorisatie van agents, waaronder identificatie, autorisatie, auditing, onweerlegbaarheid en maatregelen tegen promptinjectie.

De richting is betekenisvol. Governance-instrumenten worden opnieuw ontworpen voor systemen die kunnen handelen, niet alleen voor systemen die informatie genereren. Voor organisaties betekent dit dat toezicht niet alleen de modelcapaciteit moet volgen, maar ook de machtigingen, systemen, gegevens en derden die met het systeem verbonden zijn. Die dimensies bepalen de gevolgen van een actie en het bewijs dat nodig is om aan te tonen dat de actie beheerst bleef.

Financiële toezichthouders maken de verantwoordelijkheid van raden van bestuur even expliciet. De FCA, Bank of England and Treasury hebben gezegd dat ondernemingen ervoor moeten zorgen dat hun raden van bestuur en senior management voldoende inzicht hebben in de risico’s van toonaangevende AI om de strategische richting te bepalen en toezicht te houden op controlefuncties.

Dit is geen bewijs dat toezichthouders falen. Het weerspiegelt een structurele realiteit: technologie verandert eerst, terwijl instellingen hun reactie daarna formaliseren. Raden van bestuur kunnen regelgevende zekerheid daarom niet als voorwaarde voor actie stellen.

Het werkelijke probleem kan de absorptiekloof zijn

Hier wordt het gesprek over de singulariteit een ondernemingskwestie. Een organisatie kan toegang hebben tot buitengewone AI-capaciteit en toch structureel niet in staat zijn die te absorberen.

Een financiële instelling kan een agent inzetten die geavanceerde analyses kan uitvoeren, terwijl haar beheerskader ervan uitgaat dat een menselijke analist iedere aanbeveling met belangrijke gevolgen doet. Een retailer kan beslissingen over prijsstelling, voorraad en klantcontact automatiseren, terwijl de verantwoordingsstructuur rond menselijke managers blijft georganiseerd. Een technologiebedrijf kan AI-systemen software op ongekende snelheid laten genereren en testen, terwijl securitybeoordeling, verandermanagement en incidentrespons nog zijn ontworpen rond menselijke ontwikkelcycli.

De capaciteit is veranderd. De instelling niet.

Ervaring met audit- en risicocomités, financiële dienstverlening, retail, media, luxe, sport en technologie bevestigt hetzelfde patroon: capaciteit kan overal tegelijk beschikbaar komen, terwijl de absorptiesnelheid sterk verschilt afhankelijk van regelgeving, verouderde infrastructuur, de personeelsstructuur en de volwassenheid van de beheersmaatregelen.

Die variatie is belangrijk. Vanuit het perspectief van risico en verzekeringsmakelaardij is dit het punt waarop AI-risico ophoudt een whitepaper te zijn en een premie wordt. Verzekeraars, investeerders, toezichthouders en raden van bestuur stellen uiteindelijk varianten van dezelfde vraag: Kan de organisatie aantonen dat zij de blootstelling die zij creëert begrijpt en beheerst?

Moet governance even snel bewegen als AI?

De voor de hand liggende reactie is governance sneller laten bewegen. Maar snellere governance is niet automatisch betere governance.

Het doel zou misschien niet governance op de snelheid van technologie moeten zijn, maar governance op de snelheid die nodig is om controle te behouden. De juiste vraag voor een raad van bestuur is mogelijk niet: “Hebben we deze AI-capaciteit goedgekeurd?” Maar eerder: “Wat is er sinds onze vorige goedkeuring veranderd in het capaciteits-, autonomie-, toegangs- of gevolgenprofiel, en zijn onze beheersmaatregelen dienovereenkomstig veranderd?”

Dat is een moeilijkere vraag, maar ook een nuttigere.

Het governance-instrument

De meeste commentaren over AI eindigen met een waarschuwing. Raden van bestuur hebben iets praktischers nodig: een mechanisme dat ervan uitgaat dat de omstandigheden zullen verschuiven.

Het antwoord is niet een betere voorspelling van wanneer de singulariteit kan plaatsvinden. Het is een dynamische governancepoort die meet of de instelling nog steeds in staat is te beheersen wat zij heeft ingezet.

Zo’n instrument zou vijf kenmerken moeten hebben:

1. Expliciete fasepoorten. AI-programma’s moeten voortgang boeken op basis van gescoorde criteria in plaats van beschrijvende statusupdates. Capaciteit, autonomie, toegang, controledekking, veerkracht en verantwoordingsplicht moeten expliciet worden beoordeeld.
2. Gedeeltelijke toekenning. Organisaties moeten kunnen zien waar zij verbeteren zonder voortgang te verwarren met gereedheid.
3. Een harde goedkeuringsdrempel. Als niet aan een kritieke controle-eis wordt voldaan, mag optimisme geen uitzondering creëren.
4. Beslismijlpalen los van scores. Een raad van bestuur kan bewust een risico accepteren; dat is legitieme governance. Maar een oordeel moet zichtbaar blijven als oordeel en niet worden vermomd als een getal.
5. Een hogere actualiseringsfrequentie. Als capaciteit tussen kwartaalvergaderingen van de raad van bestuur wezenlijk kan veranderen, is kwartaalrapportage structureel niet in staat voldoende zichtbaarheid te bieden. Voor een materieel programma rond toonaangevende AI kunnen wekelijkse actualiseringen nodig zijn.

Dit patroon wordt toegepast binnen een lopend programma voor digitaal bankieren. De overdraagbare les is eenvoudig: wanneer de omgeving snel beweegt, moet governance beweging meten in plaats van die alleen te documenteren.

Raden van bestuur zouden daarom verschillende vragen moeten kunnen beantwoorden: Wat kan het systeem nu wat het tijdens de vorige beoordeling nog niet kon? Welke beslissingen of acties kan het nemen zonder directe menselijke tussenkomst? Tot welke systemen, gegevens, inloggegevens en derden heeft het toegang? Welke beheersmaatregelen werken vóór, tijdens en na die acties? Welk bewijs toont aan dat die beheersmaatregelen werken? Wat is er veranderd in het restrisico? Is het vermogen van de instelling om de capaciteit te absorberen gelijke tred blijven houden met de capaciteit zelf?

Als het management deze vragen niet kan beantwoorden, gaat het probleem niet langer alleen over AI-volwassenheid. Het gaat over governancevolwassenheid.

De vraag waarover raden van bestuur moeten debatteren

De singulariteit kan uiteindelijk een discontinuïteit in intelligentie blijken te zijn. Raden van bestuur hoeven die filosofische vraag echter niet op te lossen. Er is een directere discontinuïteit die governance verdient: de mogelijkheid dat machinecapaciteit zich sneller opstapelt dan institutionele controle.

Onder die kwestie ligt een legitiem debat. Misschien is het antwoord sterkere governance. Misschien beter ontworpen governance. In sommige gevallen is het antwoord mogelijk om een capaciteit niet in te zetten totdat de instelling die kan absorberen.

Die laatste positie zal sommige technologieleiders frustreren. Dat hoort ook zo. Het doel van governance is niet om inzet comfortabel te maken. Maar governance mag evenmin een excuus worden voor institutionele verlamming. De uitdaging is het verschil te kennen.

De vraag voor de raad van bestuur is daarom niet: “Wanneer zullen machines ons overtreffen?” Het is: “Hoeveel autonomie zijn we bereid te besturen voordat we weten dat onze instelling die kan absorberen?”

Dat is een vraag die een raad van bestuur kan beantwoorden. In tegenstelling tot de datum van de singulariteit kan zij niet worden uitgesteld.

De singulariteit is een vraag over machines. De governancekloof is een vraag over ons.

Oorspronkelijke bron: TechNext24