Koning Charles III heeft de topmannen van de grootste kunstmatige-intelligentiebedrijven ter wereld verteld dat zij manieren moeten vinden om de technologie onder menselijke controle te houden, met de waarschuwing dat juist de mensen die haar hebben gebouwd nu bang zijn dat zij ‘donkere capaciteiten’ kan ontwikkelen en zelfs tot doden kan worden aangewend.

Een besloten bijeenkomst in Schotland

De koning sprak deze woorden uit in Dumfries House in East Ayrshire, Schotland, tijdens een bijeenkomst die door de Ditchley Foundation was georganiseerd. Het evenement trok circa dertig topmannen, ambtenaren en onderzoekers, onder wie de Britse AI-minister Kanishka Narayan, Nvidia-topman Jensen Huang, DeepMind-medeoprichter Demis Hassabis, OpenAI-financieel directrice Sarah Friar en Anthropics hoofd globale aangelegenheden Tino Cuéllar.

Volgens een besloten gastenlijst die door Bloomberg werd ingezien, stonden er ook namen op als MI6-chef Blaise Metreweli, auteur Yuval Noah Harari en Xue Lan van de Tsinghua-universiteit. De samenstelling van dat gezelschap – topmannen van topllaboratoria naast een minister, een inlichtingenbaas, een auteur en een Vaticaans adviseur – liet zien hoe ver AI-veiligheid is gereisd: van een technische discussie tot een vraagstuk van staatkunde.

Charles 77, sprak slechts ongeveer twintig minuten voordat hij de zaal verliet in de hoop dat er vruchtbare gesprekken zouden volgen. Wie het morele kern van de mensheid waardeert, zei hij, zoekt ‘nauwgezet uw verzekering dat wij de controle over ons lot, of over onze ziel, niet verliezen.’

‘Tegelijkertijd intrigerend en diep verontrustend’

De monarch omschreef het tempo van de technologie als ‘tegelijkertijd intrigerend en diep verontrustend.’ Hij prees de resultaten in de geneeskunde en de levenswetenschappen voordat hij zijn gehoor een botte vraag stelde: ‘Wij hebben toch voldoende middelen van controle nodig vóór het allemaal te laat is?’

De koning verwees naar de zorgen van de makers van AI zelf en zei dat de systemen het risico lopen ‘donkere capaciteiten te ontwikkelen, mogelijk zelfs om leven te nemen.’ Hij drong er bij de topmannen op aan de ‘existentiële gevaren’ te overwegen wanneer dergelijke instrumenten in verkeerde handen vallen.

Het was niet de eerste keer dat Charles dergelijke zorgen uitte: in 2023 stuurde hij een videoboodschap naar de AI Safety Summit van het Verenigd Koninkrijk in Bletchley Park met soortgelijke sentimenten. Vaticaans AI-adviseur Paolo Benanti was aanwezig bij de top in Schotland, en paus Leo XIV schreef in een encycliek in mei dat AI niet in de handen ‘van enkelen’ mag blijven.

Wat de AI-topmannen zeiden

Demis Hassabis vertelde de deelnemers dat algemene kunstmatige intelligentie – systemen die op vele taken de mens kunnen evenaren of verslaan – ‘waarschijnlijk slechts enkele jaren verwijderd’ is. Hij zei dat zulke technologie een impact zou kunnen hebben die tien keer zo groot is als die van de industriële revolutie. De kans dat er iets misgaat, voegde hij eraan toe, is ‘zeker niet nul’, al voegde hij daaraan toe: ‘de toekomst is nog niet geschreven.’

Sarah Friar zei dat de groeiende macht van de technologie vragen oproept over het dienstbaar houden ervan aan de mens, en voegde eraan toe dat ‘geen enkel bedrijf of geen enkele regering dat alleen kan.’

Huang, wiens Nvidia bijna $5,15 biljoen waard is, vertelde de zaal dat veiligheid voorop staat en dat een product moet worden ingehouden als het nog niet klaar is. Hij pleitte voor regulering van AI-producten in plaats van de technologie zelf, en verdedigde open modellen als een manier om te voorkomen dat kleinere landen en onderzoekers worden buitengesloten. Dat onderscheid – regels voor de technologie zelf versus regels voor de producten die erop zijn gebouwd – staat centraal in de regelgevingsdebatten wereldwijd. Gelezen naast Friars waarschuwing dat geen enkele acteur de technologie alleen kan beheersen, schetsten de uitwisselingen de twee brede benaderingen die nu het AI-toezicht vormgeven: waar regels moeten ingrijpen, en wie die moeten dragen.

Een debat aangescherpt door waarschuwingen uit de sector

De top vond plaats tegen de achtergrond van interne onrust in de sector, na een virale afscheidspost van Anthropic-onderzoeker Jacob Coxon en een voorspelling van zijn collega Evan Hubinger dat AI een kans van 10% heeft de mensheid te doen uitsterven. Cryptopolitan meldde dat Anthropics Dario Amodei een essay publiceerde waarin laboratoria werden opgeroepen het front ‘te pacen’, en dat OpenAI deze week een systeem lanceerde dat wangedrag van modellen aan het licht moet brengen na zes geregistreerde incidenten van verontrustend gedrag.

Niet iedereen is het erover eens dat het gevaar echt is: president Donald Trump heeft dergelijke angsten weggezet als een ‘hoax’. Hoe die kloof wordt gedicht – via laboratoriummaatregelen zoals OpenAIs nieuwe meldingssysteem, productgerichte regulering zoals Huang voorstaat, of het ‘pacen’ van het front waarvoor Amodei pleitte – is de vraag die de topmannen nu uit Dumfries House met zich meedragen.

Bron: Cryptopolitan