VN-Hoge Commissaris voor de Mensenrechten Volker Türk waarschuwde op 7 september, sprekend voor de Mensenrechtenraad in Genève, dat kunstmatige intelligentie zich ontwikkelt naar een punt waarop het een existentiële dreiging voor de mensheid kan vormen.

Türk drong er bij regeringen op aan snel actie te ondernemen om waarborgen op te bouwen en de AI-laboratoria die wedijveren om de leiding in autonome systeemtechnologie in te toomen, met het argument dat escalerende inbreuken en veiligheidsincidenten laten zien dat het vakgebied het risico loopt uit de hand te lopen.

De centrale zorg van de VN-functionaris is dat AI-technologie sneller ontwikkelt dan de bestuurssystemen die haar moeten volgen. De waarschuwing komt te midden van een gefragmenteerd reguleringslandschap: de EU is het verst gegaan met zijn AI Act, die in 2024 in werking trad en geleidelijk verplichtingen invoert voor systemen met een hoog risico, terwijl de VS vooral op sectorale regels en vrijwillige toezeggingen heeft geleund en bindende internationale coördinatie beperkt blijft. Volgens Türk heeft ongeremde groei de dreiging voorbij desinformatie en baanverlies in existentieel territorium geduwd, waaronder veiligheid, verantwoordelijkheid en het ontbreken van zinvol toezicht op hoogautonome systemen.

Oproep tot dringende internationale actie

Türk onderbouwde zijn oproep tot internationaal gecoördineerde actie met een sluitend tijdvenster waarin AI-capaciteiten nog kunnen worden ingeperkt. Hij bekritiseerde ook dat het tempo en de richting van de ontwikkeling van het vakgebied onevenredig in handen liggen van een kleine kring van technologieleidinggevenden en bedrijven.

Als remedie stelde Türk voor dat landen waar de toonaangevende AI-bedrijven zijn gevestigd, samen met de landen die kritieke toeleveringsketens beheersen — een groep waartoe de Verenigde Staten en China behoren, thuisbasis van het grootste deel van de grensverleggende AI-ontwikkeling en geavanceerde chipfabricage — "rode lijnen" trekken die bepalen hoe ver zij de technologie willen laten gaan.

De Hoge Commissaris keert terug naar een thema dat de VN behandelde op het eerste Global Dialogue on AI Governance, gehouden in juli in dezelfde Zwitserse stad (VN-verklaring).

Op de AI for Good-top van de ITU, waar dat gesprek begon, zei Türk: "Wij beschouwen veiligheidsnormen voor geneesmiddelen, auto's of vliegtuigen niet als obstakels voor vooruitgang. Ze zijn juist de reden waarom mensen die technologieën in de eerste plaats vertrouwen," aldus VN-beeldmateriaal. Menselijk toezicht, voegde hij eraan toe, "mag niet slechts een stempel zijn."

Tot het bewijs dat op die top werd gepresenteerd, behoorden bevindingen van Sonia Livingstone van het door de VN gemandaatteerde Global Scientific Panel on AI. In een onderzoek dat 11 landen in het Globale Zuiden besloeg, meldde ten minste één kind per klas het slachtoffer te zijn geweest van seksueel expliciete AI-deepfakes.

Sima Bahous, hoofd van UN Women, benadrukte de genderdimensie van het probleem. Zij merkte op dat ongeveer 88% van de toponderzoekers in AI mannen zijn, en meldde dat ten minste één op de vier door haar organisatie ondervraagde vrouwelijke activisten en journalisten te maken had gekregen met door AI ondersteunde online mishandeling.

AI-laboratoria en wetgevers reageren

De VN is niet de enige die deze zomer alarm slaat. Amerikaans senator Bernie Sanders heeft opgeroepen tot een onmiddellijke pauze op geavanceerde AI-ontwikkeling en een permanent verbod op superintelligentie, terwijl een overpartijgroep Britse parlementsleden aandrong op wettelijk verplichte "kill switches" voor AI naar aanleiding van wat zij beschreven als een reeks ongecontroleerde AI-incidenten.

Die zorgen volgden op de bewering van OpenAI, gekoppeld aan zijn GPT-6 Astra-model, dat zijn technologie algemene kunstmatige intelligentie had bereikt, en op de erkenning van Anthropic dat zijn eigen modellen "niet perfect uitgelijnd" zijn met menselijke waarden.

Een deel van de druk komt ook uit de industrie zelf. In een in juni verschenen essay, behandeld door Axios, betoogde Anthropic-CEO Dario Amodei dat regeringen de juridische macht zouden moeten hebben om gevaarlijke AI-inzet te blokkeren of ongedaan te maken, en dat grensverleggende modellen verplicht getest zouden moeten worden, vergelijkbaar met auto's, vliegtuigen of nieuwe geneesmiddelen.

In zijn eigen update aan de Raad breidde Türk het argument uit naar oorlogvoering, waarbij hij oproepen steunde om wapens die kunnen doden zonder een mens in de beslisloop te verbieden — een kwestie waarover VN-lidstaten al jaren debatteren zonder tot een juridisch bindend verdrag over autonome wapens te komen.