Naarmate de wedloop om steeds krachtigere kunstmatige intelligentie versnelt, worstelen sommige toonaangevende bedrijven uit de sector met een vraag die veel ouder is dan de computer: hoe breng je een machine goed en kwaad bij. Steeds vaker luidt hun antwoord: religie.

"Dit zijn geen vragen die een lab kan beantwoorden", zei Anthropic-medeoprichter Chris Olah eerder dit jaar bij de presentatie in het Vaticaan van de encycliek van paus Leo XIV over kunstmatige intelligentie. "Het zijn vragen die tradities zoals de uwe al millennia met zich meedragen."

Toch is er, temidden van deze veelbesproken wending naar het geloof, weinig publieke controle op wat deze technologiebedrijven precies onder religie verstaan — en, misschien wel belangrijker, wat zij eruit hopen te halen.

wijl bestuursvoorzitters waarschuwen voor het destructieve potentieel van AI en debatteren over de noodzaak om moreel goede modellen te bouwen, winnen zij steeds vaker advies in bij filosofen en religieuze leiders. De consultaties maken deel uit van een breder technisch project dat in de sector alignment heet — het vormgeven van modelgedrag zodat het menselijke waarden weerspiegelt — en dat in toenemende mate disciplines ver buiten de informatica raadpleegt. De filosofie van de topmannen luidt grosso modo als volgt: religie kan helpen AI moreel goed te maken op een moment dat angsten over de technologie, gegrond en ongegrond, door de cultuur springen. Omdat deze bedrijven niet aan een bepaald geloof gebonden zijn, is het doel vaak breed — een verzameling morele ideeën die hun modellen kan informeren.

"Wat ik denk dat ChatGPT zou moeten doen, is dat gewogen gemiddelde, of wat dan ook, van de morele opvattingen van de mensheid weerspiegelen", zei OpenAI-topman Sam Altman vorig jaar.

Maar zowel experts als gelovigen waarschuwen dat dit idee geen rekening houdt met het feit dat verschillende tradities en wereldbeelden elkaar vaak tegenspreken. Kortom, zeggen zij, zo werkt religie nu eenmaal niet. De inzet is praktisch evenzeer als filosofisch: welke morele kaders een model ook opneemt, ze komen uiteindelijk terug in de antwoorden die het aan gebruikers geeft — ook in klaslokaalscenario's zoals chatbottoegang voor geletterdheidsonderwijs, die in de consultaties zelf werden bediscussieerd.

Religie als reglement

Al decennia verzetten wetenschappers zich tegen het wijdverbreide idee dat religie een set regels of principes is die los kan worden gezien van de "rommelige, praktische, ad hoc" manieren waarop gelovigen feitelijk leven, betoogt Webb Keane, antropoloog aan de University of Michigan. Het idee dat religie kan worden gescheiden van cultuur en politiek is diepgeworteld, ook al doordringt religie op vele manieren beide. Sommigen vrezen dat AI-bedrijven, door religieuze leiders ethische vragen te laten beantwoorden, een theorie over religie in stand houden die het belang van doctrine, ritueel en relaties over het hoofd ziet.

De kern van het probleem, betoogt Keane, is deze: als je ervan uitgaat dat religie in zijn geheel een afzonderlijke set extraheerbare morele principes biedt, loop je bij het gebruik ervan om AI te trainen het risico bepaalde tradities te bevoordelen en andere te vervormen — met name geloven die zichzelf niet primair zien als een systeem van ethiek.

"Er is een zeer gebruikelijke manier van denken die religie ziet als een reglement", zei hij. "Dat is zeker sterk verbonden met schriftreligies, en die schriftreligiesken uiteindelijk vooral de Abrahamitische religies te zijn."

Binnen de overleggen van Anthropic

Dat wil niet zeggen dat deze consultaties aan diverse vertegenwoordiging ontbraken, of dat de betrokkenheid bij religie vanuit het perspectief van deelnemers zoals Meghan Sullivan, godsdienstfilosoof en leidster van een initiatief over ethiek en AI aan de University of Notre Dame, ondoordacht was.

Anthropic heeft de geraadpleegde tradities niet opgesomd, maar het bedrijf schreef in een blogpost van mei dat het had overlegd met "wetenschappers, geestelijken, filosofen en ethicisten uit meer dan 15 religieuze en interculturele groepen" — een kring die het in de toekomst wil verbreden.

Eerder dit jaar reisde Sullivan naar Anthropic voor een van deze overleggen, waarbij ook christenen van verschillende denominaties aanwezig waren. In vergelijking met gesprekken die zij met andere technologiebedrijven had voerde, was zij onder de indruk van de rigor waarmee Anthropic zich met religie bezighield. Het bedrijf wordt algemeen beschouwd als het AI-bedrijf dat ethiek en veiligheid het serieusst neemt.

"De cultuur binnen het bedrijf lijkt op die van een goede universiteitscampus, in de zin dat je daar een verzameling zeer intellectueel nieuwsgierige mensen hebt", zei ze. "Deze overleggen zijn behoorlijk nerdy — ik weet niet of dat de beste manier is om het te zeggen — op een goede manier."

Het overleg was verdeeld in twee delen, aldus Sullivan. Eerst legde het bedrijf zijn modellen "in gewone mensentaal" uit aan de aanwezigen. Vervolgens reageerden de religieuze leiders met feedback en discussie.

"Elke mogelijke morele vraag die deze technologie oproept — alles van 'Hebben mensen een ziel?' tot 'Zouden derdeklassers toegang moeten hebben tot een chatbot voor geletterdheidsonderwijs?'"

Ook vertegenwoordigers van Meta, Google en Amazon hebben met het Vaticaan gesproken, terwijl Microsoft zeer actief is in zijn religieuze outreach.

Een moderne uitvinding

Religie wordt doorgaans beschouwd als zowel oud als universeel. Experts zoals de invloedrijke, inmiddels overleden geleerde Jonathan Z. Smith geven toe dat dat in sommige opzichten klopt, maar zeggen dat het niet het hele verhaal is.

"De mens heeft zijn hele geschiedenis gehad om goden en vormen van interactie met hen te verbeelden. Maar de mens — preciezer: de westerse mens — heeft slechts de laatste paar eeuwen gehad om religie te verbeelden", schreef Smith in 1982.

Veel hedendaagse godsdienstwetenschappers delen Smiths kijk op hun vakgebied. Ze betwisten het idee dat religies een set afzonderlijke, vergelijkbare systemen vormen en noemen dat een modern begrip dat pas de 19e eeuw terug te voeren is.

Boeddhisme en hindoeïsme werden bijvoorbeeld vóór de komst van Europese geleerden door hun beoefenaars niet als duidelijk afgebakende tradities herkend, aldus Tomoko Masuzawa, godsdienstwetenschapper en auteur van "The Invention of World Religions".

"Al deze categorieën waren niet oorspronkelijk", zei Masuzawa.

Westerse academici hebben die categorieën jarenlang verankerd en zijn pas in de tweede helft van de 20e eeuw begonnen ze serieus te herzien. Die ingewortelde opvattingen over religie — dat deze gemakkelijk tussen culturen te vergelijken is — helpen verklaren waarom Silicon Valley wellicht niet de behoefte voelt er een eigen definitie aan te geven. In een poging verschillende standpunten te vertegenwoordigen, is religie vaak een voor de hand liggende manier om denkwijzen te tonen.

"Op de een of andere manier wordt religie een manier om de wereld in kaart te brengen", zei Masuzawa. "Alsof de hele wereld er min of meer in is meegegaan."

Sommige waarnemers willen dat de bedrijven hun termen en intenties helderder definiëren, zodat buitenstaanders beter kunnen begrijpen wat ze precies hopen te winnen bij religie.

"Dit werk gaat niet over het afstemmen van onze modellen op het wereldbeeld van één traditie. We willen dat Claude put uit een volledig scala aan standpunten — religieus, seculier, politiek — met gelijke diepgang en nauwkeurigheid", aldus Anthropic in de blogpost. "Waar we in deze gesprekken naar op zoek zijn, is zorgvuldig, opeenhopend nadenken over hoe goed karakter zich werkelijk vormt."

Hoe, en of, deze gesprekken doorsijpelen in het modelgedrag blijft grotendeels onbekend, waardoor de concreetheid van toekomstige openbaarmakingen iets is om in de gaten te houden nu Anthropic zijn kring van geraadpleegde groepen verbreedt.

Het risico van homogenisering

Grote taalmodellen werken door herhaaldelijk het volgende woord in een zin te voorspellen, nadat ze de patronen hebben "geleerd" van een enorme hoeveelheid door mensen geschreven werken, waaronder religieuze teksten. Paolo Carozza, lid van de onafhankelijke Meta Oversight Board en juridisch expert die katholieke sociale leer en technologie bestudeert, maakt zich zorgen dat bij de drang tot accumulatie de bepalende kenmerken van een bepaalde traditie verloren kunnen gaan — in feite gehomogeniseerd tot iets dat naar het midden trekt of zelfs westerse religies bevoordeelt.

"Elke levende, verfijnde traditie is in de loop van de tijd in staat om met anderen buiten haar om te interageren, nieuwe kennis op te nemen en te groien. Maar dat doet ze op een organische manier", zei hij. "Wat AI naar mijn mening vaak doet en potentieel doet, is niet organisch, maar op een manier die alles op een hoop gooit, alles door elkaar mengt en daardoor er geen enkel begrip van geeft."

Dit verhaal verscheen oorspronkelijk op Fortune.com.