De Veiligheidsraad van de Verenigde Naties heeft jarenlang dienstgedaan als plek voor beraadslagingen over existentiële dreigingen — kernwapens, klimaatverandering, pandemieën. De Raad is het VN-orgaan dat de primaire verantwoordelijkheid draagt voor internationale vrede en veiligheid, wat zijn agenda tot een ruwe barometer maakt van hoe regeringen collectief het mondiale risico kaderen. Op 23 september 2026 voegde hij een nieuw punt aan die lijst toe: kunstmatige intelligentie die de menselijke controle zou kunnen ontgroeien.

Sam Altman, chief executive van OpenAI, en Dario Amodei, chief executive van Anthropic, verschenen tijdens de jaarlijkse sessie van de Algemene Vergadering van de VN — de Septemberbijeenkomst in New York waar staatshoofden en regeringsleiders samenkommen — voor de Veiligheidsraad. Beiden riepen wereldleiders op om coöperatieve kaders rond AI-veiligheid te bouwen voordat de koers van de technologie de instellingen die haar moeten reguleren voorbij is.

Wat de topmannen zeiden

Altmans boodschap draaide om gedeelde belangen. Hij betoogde dat landen gemeenschappelijke belangen hebben bij het beheersen van krachtige nieuwe technologieën, en dat die gedeelde belangen — niet concurrentie — de basis zouden moeten vormen voor internationale coördinatie.

Amodei ging verder en waarschuwde dat AI reële risico's voor de mensheid zou kunnen opleveren als het ontwikkelproces niet over voldoende waarborgen beschikt. Zijn optreden bij de VN volgde op een essay van 12 september waarin hij publiek opriep tot een gematigder tempo in de ontwikkeling van AI-capaciteiten en pleitte voor onafhankelijke evaluatoren binnen de labs, om verantwoording af te leggen die interne teams niet zelf kunnen leveren.

Deie had meer betekenis dan alleen de sprekerslijst. Het was de eerste briefing van de VN-Veiligheidsraad die specifiek gericht was op risico's van frontier-AI-veiligheid — de term verwijst doorgaans naar de meest capabele AI-systemen aan de huidige grens van de ontwikkeling — een signaal dat het debat is gemigreerd van academische congressen en Silicon Valley-podcasts naar de machinerie van de formele internationale diplomatie.

Andere prominente stemmen voegden zich bij het gesprek. Clément Delangue, ceo van Hugging Face, nam deel naast Yoshua Bengio, een van de grondleggers van het moderne deep learning en een consistent voorstander van voorzichtigheid bij AI-ontwikkeling. Ook Chinese AI-ontwikkelaars werden uitgenodigd om bij te dragen — een opmerkelijk detail gezien de geopolitieke spanningen die door het hele gesprek lopen.

Diplomatie, meningsverschillen en recursieve zelfverbetering

Het specifieke risico dat veel van de sessie kleurde, was recursieve zelfverbetering: de mogelijkheid dat geavanceerde AI-systemen hun eigen capaciteiten iteratief zouden kunnen verbeteren op manieren die betekenisvol menselijk toezicht te boven gaan.

De bijeenkomst valt ook samen met een bredere diplomatieke moment. De dialoog tussen de VS en China over AI-regulering breidt zich stilletjes uit, en de deelname van Chinese ontwikkelaars aan de VN-sessie weerspiegelde een poging om het gesprek echt mondiaal te maken in plaats van een westerse normstellende oefening verkleed als multilateralisme.

Die poging botst met directe politieke tegenwind. De Amerikaanse president Donald Trump heeft publiek verworpen wat hij omschreef als een globalistisch plan om AI te beheersen — een kadering die internationale coördinatie positioneert als een bedreiging voor de technologische leiderspositie van Amerika in plaats van als een mechanisme om gedeeld risico te beheersen.

De aanwezigheid van Bengio voegde een andere dimensie toe. Hij opereert buiten het commerciële AI-ecosysteem en heeft geen productroadmap te beschermen. Zijn deelname naast de ceo's van OpenAI en Anthropic signaleert een zeldzame convergentie tussen academische veiligheidsonderzoekers en industrieleiders over de noodzaak van internationale mechanismen.

Wat nu, en waarom het ertoe doet

De Veiligheidsraadsessie leverde geen bindende overeenkomsten of formele resoluties op. Dat onderscheid is belangrijk: op grond van het VN-Handvest kunnen resoluties van de Veiligheidsraad bindende kracht hebben voor lidstaten, wat formele actie van de Raad tot een van de sterkste instrumenten maakt die beschikbaar zijn in internationaal bestuur.

Voor OpenAI en Anthropic specifiek is de pleitbezorging voor mondiale standaarden tweesnend. Enerzijds krijgen industriegebonden bedrijven die helpen vormgeven aan internationale kaders vaak te maken met standaarden die hun bestaande praktijken weerspiegelen — een concurrentievoordeel. Anderzijds zou elk serieus multilateraal regime waarschijnlijk het soort onafhankelijke evaluatie en toezicht met zich meebrengen dat Amodei in zijn essay van 12 september beschreef, en dat creëert operationele wrijving die vandaag nog niet bestaat.

Elk internationaal AI-veiligheidskader dat China uitsluit is per definitie onvolledig, gezien de schaal van de Chinese AI-ontwikkeling. Maar het meenemen van China betekent onderhandelen over fundamenteel verschillende reguleringsfilosofieën en politieke systemen.