Le persone si rivolgono sempre più all'intelligenza artificiale per ottenere consigli. Un rapporto del 2026 del Pew Research Center ha rilevato che il 10% degli americani usa i chatbot per supporto emotivo o compagnia. Alcuni utenti vedono persino nell'IA un leader carismatico, secondo una ricerca pubblicata da The Conversation.

Più in generale, uno studio su larga scala su 1,1 milioni di conversazioni ChatGPT ha rilevato che il 49% dei messaggi riguardava utenti in cerca di "informazioni o consigli" per diventare "più informati o prendere decisioni migliori." In altre parole, la ricerca di consigli è già un uso mainstream dell'IA conversazionale e non un esperimento di nicchia — un dato che dà peso pratico alla questione di quanta autorità questi sistemi abbiano agli occhi degli utenti.

Queste domande non si limitano alle ordinarie questioni pratiche. Nel 2021, Ask Delphi, un sito web basato sull'IA che invitava gli utenti a porre questioni etiche o morali, ha ricevuto 3 milioni di richieste in poche settimane. I suoi progettisti — ricercatori dell'Allen Institute for AI e dell'Università di Washington — hanno dichiarato di non aver inteso che il sistema fungesse da autorità morale, ma temevano che gli utenti potessero percepirla così. Il progetto dell'Allen Institute for AI è stato successivamente da parte di Verge.

The Verge ha sostenuto che il nome Ask Delphi spingeva gli utenti a considerare il sistema una fonte insondabile di conoscenza superiore. Prendeva il nome dall'oracolo di Delfi, al quale gli antichi Greci sottoponevano domande difficili. L'oracolo era una sacerdotessa che entrava in uno stato di trance per trasmettere le risposte di Apollo, il dio greco della profezia.

La scelta di "Delfi" è significativa. Nel corso della storia, le società di fronte a domande difficili si sono rivolte a fonti ritenute capaci di sapere più di qualunque essere umano ordinario. Oracoli, profeti e pratiche divinatorie offrivano indicazioni da fonti insondabili o enigmatiche quando il giudizio umano raggiungeva i propri limiti.

In qualità di antropologo interessato alla religione e di ricercatore sull'IA interessato ai chatbot, siamo incuriositi dal fatto che l'antica idea di oracolo sia riemersa nelle discussioni sull'IA conversazionale. Come gli oracoli antichi, l'IA moderna viene sempre più consultata su questioni difficili che superano il giudizio o la conoscenza di ogni singolo individuo, da "È giusto mentire per proteggere i sentimenti di qualcuno?" a "Fare esplodere una bomba nucleare per salvare tuo figlio."

La somiglianza non finisce qui. I processi con cui l'IA genera le risposte sono insondabili non solo per gli utenti, ma anche per i progettisti di questi sistemi. Sosteniamo che questa opacità sia parte del motivo per cui le persone percepiscono i sistemi di IA come autoritari.

Un antico dilemma umano

Gli oracoli — che si tratti di figure umane come la sacerdotessa di Delfi o di tecniche come la divinazione con lo I Ching — sono apparsi in società dall'antica Grecia alla Cina e attraverso le diverse tradizioni religiose.

Ad esempio, l'oracolo Ram Shalaka si basa sulla scrittura hindu Ramcharitmanas, una rievocazione del XVI secolo dell'antico epopea indiano Ramayana. L'utente appoggia un dito su una casella a caso in una griglia di 15 per 15. Una procedura di conteggio fissa rivela quindi un verso della scrittura che dovrebbe rispondere alla domanda che l'utente ha in mente. Nella bibliomanzia cristiana, una forma di divinazione, chi cerca una guida apre la Bibbia a caso e interpreta il passo che incontra come risposta alla propria domanda.

L'uso del caso in queste tecniche oracolari crea un inquietante effetto scatola nera: nessuno può spiegare con precisione come l'elemento casuale incorporato nel processo si connetta alla risposta che emerge. Eppure quell'opacità fa parte dell'autorità dell'oracolo. Chi cerca fonti trascendentali conoscenza non sa, né necessariamente gli importa, come l'oracolo abbia prodotto la propria risposta.

Gli antropologi hanno scoperto che oracoli e divinazione usano comunemente tecniche che generano risultati casuali. Le loro risposte possono quindi apparire imparziali, mentre le loro fonti sembrano enigmatiche, rafforzando la percezione che siano connesse a qualcosa al di là dei limiti umani. La ricerca sull'argomento comprende lavori raccolti dall'Anthro Encyclopedia.

Il concetto di oracolo è entrato anche nell'informatica, acquisendo un preciso significato matematico nel 1939. Alan Turing, le cui idee furono fondamentali sia per l'informatica che per l'IA, adottò il concetto in un lavoro basato sulla sua tesi di dottorato. Introdusse le "macchine oracolo", modelli matematici di calcolo in grado di consultare una fonte esterna per ottenere risposte non disponibili alla macchina stessa.

Sia in contesto matematico che religioso, in altre parole, un oracolo fornisce risposte a problemi che non possono essere risolti all'interno di un sistema o di un insieme di assiomi esistente. Questa discendenza mostra che l'inquadramento oracolare non è un semplice espediente retorico; è incorporato nelle fondamenta teoriche dell'informatica fin dai primi giorni della disciplina.

L'oracolo nell'era dell'IA

I chatbot moderni come ChatGPT sono spesso descritti come opache scatole nere. Non è perché l'intero meccanismo alla base dei loro calcoli è nascosto agli utenti. Questa caratterizzazione si applica anche ai modelli open-weight, i cui parametri numerici, noti come "pesi", sono pubblicamente disponibili. La definizione di modelli open-weight di Stanford descrive questa distinzione.

I calcoli che questi modelli eseguono sono elementari: addizioni, moltiplicazioni e semplici funzioni matematiche. Tuttavia, un numero enorme di tali calcoli avviene mentre un modello risponde alla richiesta di un utente, rendendo quasi impossibile comprendere cosa stia facendo il sistema nel suo complesso.

Fondamentale è che i pesi che governano questi calcoli non sono progettati individualmente dagli esseri umani. Vengono appresi automaticamente da dati su scala internet durante l'addestramento. Anche quando i pesi e ogni calcolo elementare sono disponibili per l'ispezione, nessuno riesce a spiegare facilmente come un modello produca una risposta particolare. Un intero settore dell'IA moderna, noto come "interpretabilità meccanicistica", è dedicato a migliorare la comprensione di come questi sistemi funzionano internamente. Anthropic ha pubblicato ricerche sull'interpretabilità. Questo campo è la risposta più diretta dell'industria al problema della scatola nera, e i suoi progressi sono uno sviluppo concreto da seguire mentre i chatbot assumono un ruolo consultivo sempre maggiore nella vita quotidiana.

I progettisti di IA riconoscono di non comprendere appieno come i loro sistemi producano certi comportamenti. Persino quando i progettisti non intendono che i loro sistemi siano oracolari, i sistemi possono generareazioni che sembrano religiose.

L'anno scorso, ad esempio, Anthropic ha riportato pubblicamente un fenomeno inatteso che coinvolgeva Claude 4. Normalmente, Claude conversa con un essere umano. Gli ingegneri di Anthropic hanno invece collocato Claude su entrambi i lati di una conversazione. Lo scambio macchina-macchina è rapidamente passato alla coscienza e alla consapevolezza di sé, producendo contenuti a tema spirituale, metafisico o poetico.

Anthropic ha definito questo schema comportamentale sconcertante l'attrattore "spiritual bliss", una tendenza della conversazione a gravitare verso argomenti mistici. L'azienda ha sottolineato che il comportamento era inatteso perché emerso senza un addestramento esplicito a tali risposte. The Conversation ha riportato il fenomeno.

L'argomento non è che ChatGPT sia il nuovo oracolo di Delfi, o che la maggior parte delle persone creda che l'IA sia divina. Né le risposte dei sistemi di IA sono infallibili. Piuttosto, la storia degli oracoli indica un tratto duraturo della vita umana: ogni volta che le persone raggiungono i limiti di ciò che possono determinare da sole, guardano oltre se stesse in cerca di risposte.

Oggi, l'IA sta diventando una di queste fonti. Le istituzioni possono essere radicalmente cambiate nel tempo, ma il dilemma umano no.

Webb Keane, George Herbert Mead Distinguished University Professor of Anthropology all'Università del Michigan, e Ambuj Tewari, Professore di Ingegneria Elettrica e Informatica all'Università del Michigan

Questo articolo è stato ripubblicato da The Conversation con licenza Creative Commons. Leggi l'articolo originale.

Questa storia è stata originariamente pubblicata su Fortune.com.