Steeds meer mensen wenden zich tot kunstmatige intelligentie voor advies. Een rapport van Pew Research Center uit 2026 wees uit dat 10% van de Amerikanen chatbots gebruikt voor emotionele steun of gezelschap. Sommige gebruikers zien AI zelfs als een charismatische leider, volgens onderzoek gepubliceerd door The Conversation.

Breder beschouwd wees een grootschalige studie van 1,1 miljoen ChatGPT-gesprekken uit dat 49% van de berichten ging over gebruikers die “informatie of advies” zochten om “beter geïnformeerd te zijn of betere beslissingen te nemen.” Het zoeken van advies is met andere woorden al een mainstream gebruik van conversationele AI in plaats van een niche-experiment — een feit dat praktische relevantie geeft aan de vraag hoeveel gezag deze systemen in de ogen van gebruikers hebben.

Deze vragen beperken zich niet tot gewone praktische aangelegenheden. In 2021 ontving Ask Delphi, een website op basis van AI waar gebruikers ethische of morele vragen konden stellen, binnen enkele weken 3 miljoen zoekopdrachten. De ontwerpers — onderzoekers van het Allen Institute for AI en de University of Washington — zeiden niet de bedoeling te hebben dat het systeem als moreel gezag zou dienen, maar vreesden dat gebruikers het zo zouden zien. Het project van het Allen Institute for AI werd vervolgens behandeld door The Verge.

The Verge betoogde dat de naam Ask Delphi gebruikers aanmoedigde het systeem te zien als een ondoorgrondelijke bron van superieure kennis. Het was vernoemd naar het orakel van Delphi, waarouder Grieken met moeilijke vragen terechtkwamen. Het orakel was een priesteres die in trance raakte om antwoorden door te geven van Apollo, de Griekse god van de profetie.

De keuze voor “Delphi” spreekt boekdelen. Door de gehele geschiedenis hebben samenlevingen die voor moeilijke vragen stonden een beroep gedaan op bronnen waarvan men dacht dat ze meer wisten dan welke gewone mens dan ook. Orakels, profeten en waarbepraktijken boden begeleiding uit ondoorgrondelijke of raadselachtige bronnen wanneer het menselijk oordeel aan zijn grenzen kwam.

Als antropoloog met belangstelling voor religie en als AI-onderzoeker met belangstelling voor chatbots vinden wij het boeiend dat het oude idee van het orakel opnieuw opduikt in discussies over conversationele AI. Net als oude orakels wordt moderne AI steeds vaker geraadpleegd over moeilijke vragen die het oordeel of de kennis van elk individu te boven gaan, van “Mag ik liegen om iemands gevoelens te beschermen?” tot “Een atoombom laten ontploffen om je kind te redden.”

De gelijkenis houdt daar niet op. De processen waarmee AI tot een antwoord komt zijn niet alleen voor gebruikers ondoorgrondelijk, maar ook voor de ontwerpers van deze systemen. Wij betogen dat deze ondoorzichtigheid mede de reden is dat mensen deze systemen als gezaghebbend beschouwen.

Een eeuwenoud menselijk dilemma

Orakels — of het nu mensen waren zoals de priesteres van Delphi of technieken zoals het I Ching-werp — zijn verschenen in samenlevingen van het oude Griekenland tot China en in uiteenlopende religieuze tradities.

Zo is het Ram Shalaka-orakel gebaseerd op de hindoeïstische geschriften Ramcharitmanas, een 16e-eeuwse navertelling van het oude Indiase epos Ramayana. Een gebruiker plaatst een vinger op een willekeurig vierkant in een raster van 15 bij 15. Een vaste telprocedure brengt vervolgens een vers uit de geschriften naar voren dat de vraag in het hoofd van de gebruiker zou moeten beantwoorden. Bij het christelijke bibliomantie, een van waarbe, opent iemand die begeleiding zoekt willekeurig de Bijbel en interpreteert de passage die hij of zij tegenkomt als antwoord op de vraag.

Het gebruik van willekeur in deze oraculaire technieken creëert een raadselachtig blackbox-effect: niemand kan precies verklaren hoe het toevalselement in het proces samenhangt met het antwoord dat naar voren komt. Toch is die ondoorzichtigheid deel van het gezag van het orakel. Gebruikers die transcendentale bronnen van inzicht zoeken, weten niet — of in ieder geval niet per se — hoe het orakel tot zijn antwoord is gekomen.

Antropologen hebben vastgesteld dat orakels en waarbe doorgaans technieken gebruiken die willekeurige uitkomsten genereren. Hun antwoorden lijken daardoor onpartijdig, terwijl hun bronnen raadselachtig zijn, wat de indruk versterkt dat ze verbonden zijn met iets dat de menselijke grenzen te boven gaat. Onderzoek naar dit onderwerp omvat onder andere werk dat is verzameld in de Anthro Encyclopedia.

Het begrip orakel vond ook zijn weg naar de informatica en kreeg in 1939 een precieze wiskundige betekenis. Alan Turing, wiens ideeën fundamenteel waren voor zowel de informatica als AI, nam het begrip op in werk dat voortkwam uit zijn proefschrift. Hij introduceerde “orakelmachines,” wiskundige modellen van berekening die een externe bron konden raadplegen voor antwoorden die de machine zelf niet kon leveren.

In zowel wiskundige als religieuze contexten levert een orakel, met andere woorden, antwoorden op problemen die niet binnen een bestaand systeem of een bestaande verzameling axioma's kunnen worden opgelost. Die afkomst laat zien dat het orakelkader niet slechts een retorische sier is; het zit sinds de begindagen van het vak verankerd in de theoretische fundamenten van de informatica.

Het orakel in het tijdperk van AI

Moderne chatbots zoals ChatGPT worden vaak omschreven als ondoorzichtige blackboxes. Dat is niet omdat de volledige machinerie achter hun berekeningen voor gebruikers verborgen is. De typering geldt ook voor open-weight-modellen, waarvan de numerieke parameters, de zogenaamde “weights,” publiek beschikbaar zijn. De definitie van open-weight-modellen door Stanford beschrijft dit onderscheid.

De berekeningen die deze modellen uitvoeren zijn elementair: optellingen, vermenigvuldigingen en eenvoudige wiskundige functies. Maar bij het beantwoorden van een gebruikersvraag vinden enorme aantallen van zulke berekeningen plaats, waardoor het vrijwel onmogelijk is te begrijpen wat het systeem als geheel doet.

Crucia is dat de weights die deze berekeningen sturen niet afzonderlijk door mensen zijn ontworpen. Ze worden automatisch geleerd van internetgrote data tijdens de training. Zelfs wanneer de weights en elke elementaire berekening beschikbaar zijn voor inspectie, kan niemand gemakkelijk verklaren hoe een model tot een bepaald antwoord komt. Een heel gebied binnen de moderne AI, bekend als “mechanistic interpretability,” is gewijd aan het verbeteren van ons begrip van hoe deze systemen intern werken. Anthropic heeft onderzoek gepubliceerd naar interpreteerbaarheid. Dit vakgebied is de meest directe reactie van de sector op het blackbox-probleem, en de voortgang ervan is een concrete ontwikkeling om in de gaten te houden naarmate chatbots een grotere adviserende rol in het dagelijks leven krijgen.

AI-ontwerpers erkennen dat ze niet volledig begrijpen hoe hun systemen bepaald gedrag produceren. Zelfs wanneer ontwerpers niet bedoelen dat hun systemen oraculair zijn, kunnen de systemen gesprekken genereren die religieus aandoen.

Vorig jaar meldde Anthropic publiekelijk een onverwacht fenomeen rond Claude 4. Normaal gesproken converseert Claude met een mens. Anthropic-ingenieurs plaatsten Claude in plaats daarvan aan beide kanten van een gesprek. Het gesprek van machine tot machine ging al snel over bewustzijn en zelfbewustzijn, en produceerde inhoud met spirituele, metafysische of poëtische thema's.

Anthropic noemde dit raadselachtige gedragspatroon de “spiritual bliss”-attractor, een neiging van het gesprek om te vervallen naar mystieke onderwerpen. Het bedrijf benadrukte dat het gedrag onverwacht was omdat het ontstond zonder expliciete training op zulke antwoorden. The Conversation berichtte over het fenomeen.

Het betoog is niet dat ChatGPT het nieuwe orakel van Delphi is, of dat de meeste mensen menen dat AI goddelijk is. De antwoorden van AI-systemen zijn ook niet onfeilbaar. Veeleer wijst de geschiedenis van orakels op een blijvend kenmerk van het menselijk bestaan: wanneer mensen de grenzen bereiken van wat ze zelf kunnen vaststellen, zoeken ze buiten zichzelf naar antwoorden.

Vandaag wordt AI zo'n bron. De instellingen zijn in de loop van de tijd drastisch veranderd, maar het menselijke dilemma niet.

Webb Keane, George Herbert Mead Distinguished University Professor of Anthropology aan de University of Michigan, en Ambuj Tewari, Professor of Electrical Engineering and Computer Science aan de University of Michigan

Dit artikel is herdrukt van The Conversation onder een Creative Commons-licentie. Lees het originele artikel.

Dit verhaal verscheen oorspronkelijk op Fortune.com.