Paus Leo XIV heeft de Amerikaanse president Donald Trump en Nvidia-topman Jensen Huang veroordeeld omdat zij de dreigingen van kunstmatige intelligentie bagatelliseren, met de waarschuwing dat het negeren van de gevaren van technologie de gedeelde toekomst van de mensheid in gevaar brengt en dat de wereld de veiligheid van mensen serieuzer moet nemen.

De kritiek zet de paus tegenover een van de invloedrijkste stemmen uit de technologie-industrie. Eerder deze maand wees Huang het idee van nieuwe regels om mensen te beschermen tegen de mogelijke risico's van kunstmatige intelligentie af, in tegenstelling tot de opvattingen van sommige andere topmannen. "We hebben geen nieuwe wetten nodig — we hebben geen nieuwe regelgeving nodig,", aldus Huang.

Huang voerde verder aan dat ontwikkelaars niet hoeven te kiezen tussen snel handelen en veilig blijven, en hield vol dat snelle technologische vooruitgang en robuuste beveiliging absoluut hand in hand kunnen gaan.

Onlangs bracht Nvidia nieuwe AI-veiligheidstools uit, waaronder het waakhondsysteem Sentry. Paus Leo zei tegen verslaggevers dat hij de veiligheidsuitrol van het bedrijf had gezien, maar betwijfelde hoe toegewijd Huang aan veiligheid werkelijk is, gezien zijn verzet tegen federaal toezicht. "Hij is echter dezelfde persoon die zegt dat er geen grenzen gesteld mogen worden en geen overheidsregelgeving mag komen", zei de paus.

Deze uitwisseling vangt de breuklijn die momenteel door de industrie loopt: of vrijwillige tools zoals Sentry op zichzelf veiligheid kunnen waarborgen, of dat bindend overheidstoezicht noodzakelijk is.

Paus Leo vraagt leiders om samen te werken aan AI-veiligheid

AI-veiligheid is een terugkerend thema in het pontificaat van paus Leo XIV. In de eerste dagen van zijn aantreden bestempelde hij AI als een enorme dreiging voor de mensheid. In mei presenteerde hij een nieuwe encycliek — een van de meest formele leerstellige documenten van de Katholieke Kerk — samen met Anthropic-medeoprichter Christopher Olah, waarin hij technologiepioniers oproep verder te denken dan winst.

Op maandag herhaalde de paus zijn standpunt over AI-veiligheid en eiste hij dat techtoppers en politieke leiders de zorgen van de mensheid serieus nemen.

"We moeten politieke leiders, AI-leiders, sociale organisaties en verenigingen blijven uitnodigen om samen te komen en te kijken naar wat er al gebeurt en wat er mogelijk komen gaat. Om simpelweg te zeggen 'Oh, het zal niet gebeuren' en er de ogen voor te sluiten, is volgens mij waarschijnlijk niet de meest verantwoorde manier om daarmee om te gaan", verklaarde hij.

Met een duidelijke boodschap aan twijfelaars versterkte de paus de opvatting dat de gevaren van kunstmatige intelligentie niet overdreven zijn, maar een reëel en dreigend gevaar vormen — geen "fake news".

De paus staat niet alleen in het luiden van de klok. Tijdens een recent forum van de VN-Veiligheidsraad waarschuwden Dario Amodei van Anthropic en Sam Altman van OpenAI voor de gevaren van ongecontroleerde kunstmatige intelligentie en pleitten zij voor samenwerking tussen rivaliserende landen om regelgevende kaders op te stellen — een oproep die in directe tegenspraak staat met Huangs oproep om nieuwe regels uit te stellen.

Eerder nog had Amodei een essay geschreven waarin hij tot voorzichtigheid ten aanzien van kunstmatige intelligentie opriep en bedrijven vroeg zichzelf te tempen.

Huang heeft op zijn beurt ook de inzet erkend. Bij de introductie van Nvidias nieuwste open-source veiligheidssysteem gaf hij toe dat de enorme maatschappelijke voordelen van de technologie afhangen van het oplossen van beveiligingskwetsbaarheden, al uitte hij geen enkele intentie om de ontwikkeling te vertragen. "AI's buitengewone potentieel voor de samenleving wordt alleen gerealiseerd als we AI-veiligheid oplossen", aldus Huang.

Meer dan 50% van de respondenten uit zorgen over AI-veiligheid

De inmenging van de paus valt samen met wijdverbreide publieke onrust over kunstmatige intelligentie. Volgens gegevens van Stanford University gaf 52% van de respondenten aan zich nerveus te voelen over AI-technologie.

Het mondiale optimisme over kunstmatige intelligentie neemt echter ook toe. Het percentage mensen dat vindt dat de voordelen van AI opwegen tegen de nadelen steeg van 55% in 2024 naar 59% in 2025.

Zo gelooft een opvallende meerder van meer dan 80% van de respondenten in Maleisië, Thailand, Indonesië en Singapore dat AI hun leven ingrijpend zal veranderen in de komende drie tot vijf jaar. Van de vier landen registreerde Maleisië de grootste toename in dit sentiment vergeleken met 2024.

Desondanks rust de dreiging van automatisering zwaar op de mondiale beroepsbevolking. Volgens trackinggegevens van Ipsos bleef een meerderheid van de werknemers gedurende 2024 en 2025 bevreesd dat kunstmatige intelligentie hun functie binnen vijf jaar zou ontwrichten of volledig zou doen verdwijnen.

Die economische angst is het grootst in de Verenigde Staten en Canada, waar respectievelijk 67% en 68% van de respondenten verwacht dat AI banen zal doen verdwijnen en complete industrieën zal ontwrichten.

De cijfers vangen de spanning in het hart van het AI-debat. Terwijl een groeiend deel van het publiek wezenlijke voordelen in de technologie ziet, blijft de zorg over de gevolgen wijdverbreid — dezelfde kloof die zich nu afspeelt onder beslissers, waarbij Huang erop wedt dat veiligheid intern kan worden gerealiseerd, terwijl de paus en rivaliserende topmannen stellen dat extern toezicht essentieel is.

Stanfords AI Index 2026 constateerde ook dat het vertrouwen in het vermogen van regeringen om AI te reguleren aanzienlijk verschilt per land, wat erop wijst dat publieke zorg niet noodzakelijk samengaat met vertrouwen in bestaande toezichtsmechanismen.

Nu de ontwikkeling van AI versnelt, richt het meningsverschil tussen technologieleiders, beleidsmakers en andere publieke figuren zich steeds meer op hoeveel toezicht noodzakelijk is — en wie verantwoordelijk moet zijn voor het waarborgen dat steeds krachtigere systemen veilig blijven.