Mentre la corsa a costruire un'intelligenza artificiale sempre più potente si accelera, alcune delle principali aziende del settore si confrontano con una questione che precede da lungo tempo l'informatica: come insegnare a una macchina a distinguere il bene dal male. Sempre più spesso, la loro risposta è la religione.

"Non sono questioni che un laboratorio può rispondere", ha detto il co-fondatore di Anthropic Chris Olah all'inizio di quest'anno, in occasione della presentazione in Vaticano dell'enciclica di papa Leone XIV sull'intelligenza artificiale. "Sono questioni che tradizioni come la vostra portano avanti da millenni."

Eppure, in mezzo a questo molto discusso ritorno alla fede, c'è stata poca scrutiny pubblica su cosa esattamente queste aziende tecnologiche pensino che sia la religione e — forse più importante — su cosa sperino di ricavarne.

Mentre i dirigenti allertano sul potenziale distruttivo dell'AI e discutono della necessità di sviluppare modelli moralmente buoni, cercano sempre più il contributo di filosofi e leader religiosi. Le consultazioni si collocano in un più ampio progetto tecnico che il settore chiama allineamento — plasmare il comportamento dei modelli per riflettere i valori umani — che ha attirato sempre più discipline ben oltre l'informatica. La filosofia dei dirigenti è più o meno questa: la religione può aiutare a rendere l'AI moralmente buona in un momento in cui le paure sulla tecnologia, fondate e infondate, attraversano la cultura. Poiché queste aziende non sono vincolate a una particolare fede, l'obiettivo è spesso molto ampio — un aggregato di idee morali che possa informare i loro modelli.

"Penso che ChatGPT dovrebbe riflettere quella media ponderata, o comunque cosa, delle visioni morali dell'umanità", ha detto l'amministratore delegato di OpenAI Sam Altman lo scorso anno.

Ma esperti e fedeli avvertono che questa idea non tiene conto di come diverse tradizioni e visioni del mondo possano contraddirsi. In breve, dicono, non è esattamente così che funziona la religione. La posta in gioco è pratica oltre che filosofica: qualsiasi inquadramento morale un modello assorbe finir per emergere nelle risposte che dà agli utenti, compresi i contesti scolastici — come l'accesso ai chatbot per l'alfabetizzazione — dibattuti proprio nelle consultazioni.

Una visione della fede come libro di regole

Per decenni, gli studiosi si sono opposti alla diffusa nozione che la religione sia un insieme di regole o principi che possano essere separati dai modi "confusionari, pratici, ad hoc" in cui i fedeli vivono realmente, sostiene Webb Keane, antropologo dell'Università del Michigan. L'idea che la religione possa essere separata dalla cultura e dalla politica rimane radicata, sebbene le permei in molti modi. Alcuni temono che, mentre le aziende di AI chiedono ai leader religiosi di rispondere a questioni etiche, perpetuino ulteriormente una teoria della religione che trascura l'importanza della dottrina, del rituale e delle relazioni.

La questione centrale, sostiene Keane, è questa: se si assume che la religione nel suo complesso offra un insieme distinto di principi morali estraibili, usarla per addestrare l'AI rischia di privilegiare certe tradizioni e distorcene altre — in particolare le fedi che non si vedono principalmente come un sistema di etica.

"C'è un modo molto convenzionale di pensare la religione come un libro di regole", ha detto. "È sicuramente molto legato alla religione scritturale, e le religioni scritturali, alla fine, si rivelano essere le religioni abramitiche."

Dentro gli incontri di Anthropic

Non che queste consultazioni siano mancate di rappresentanza diversificata, né che il loro approccio alla religione sia stato superficiale dal punto di vista di partecipanti come Meghan Sullivan, filosofa della religione che guida un'iniziativa su etica e AI all'Università di Notre Dame.

Anthropic non ha elencato le tradizioni con cui si è confrontata, ma l'azienda ha detto in un post sul blog a maggio di aver incontrato "studiosi, chierici, filosofi ed esperti di etica di più di 15 gruppi religiosi e interculturali" — un pool che spera di ampliare in futuro.

All'inizio di quest'anno, Sullivan si è recata presso Anthropic per uno di questi incontri, che comprendeva cristiani di diverse denominazioni. A differenza delle conversazioni avute con altre aziende tecnologiche, è rimasta colpita dal rigore dell'approccio di Anthropic alla religione. L'azienda è ampiamente considerata la società di AI che prende più sul serio etica e sicurezza.

"La cultura all'interno dell'azienda è simile a quella di un buon campus universitario, nel senso che c'è una raccolta di persone molto curiosamente intellettuali", ha detto. "Questi incontri sono piuttosto nerd — non so se sia il modo migliore di dirlo — nel senso buono."

L'incontro era diviso in due parti, ha detto Sullivan. Innanzitutto, l'azienda ha spiegato i suoi modelli "in termini semplici" ai presenti. Poi i leader religiosi hanno risposto con feedback e discussione.

"Ogni tipo di questione morale che questa tecnologia solleva — da 'Gli esseri umani hanno un'anima?' a 'I bambini di terza elementare dovrebbero poter accedere a un chatbot per lalfabetizzazione?'"

Rappresentanti di Meta, Google e Amazon si sono anch'essi incontrati con il Vaticano, mentre Microsoft è stata attiva nel proprio dialogo con le fedi.

Un'invenzione moderna

La religione è generalmente considerata antica e universale. Esperti come il defunto e influente studioso Jonathan Z. Smith ammettono che ciò è vero sotto certi aspetti, ma dicono che non è il quadro completo.

"L'uomo ha avuto tutta la sua storia in cui immaginare divinità e modalità di interazione con esse. Ma l'uomo, più precisamente l'uomo occidentale, ha avuto solo gli ultimi pochi secoli in cui immaginare la religione", scrisse Smith nel 1982.

Molti studiosi di religione oggi condividono la visione di Smith del loro campo. Mettono in discussione l'idea che le religioni formino un insieme di sistemi distinti e comparabili, definendola una nozione moderna che risale al più tardi al XIX secolo.

Il buddhismo e l'induismo, ad esempio, non erano riconosciuti come tradizioni chiaramente delimitate dalle persone che li praticavano prima dell'arrivo degli studiosi europei, secondo Tomoko Masuzawa, studiosa di scienze religiose e autrice de "L'invenzione delle religioni mondiali".

"Tutte queste categorie non erano autoctone", ha detto Masuzawa.

Gli accademici occidentali hanno consolidato quelle categorie per anni, iniziando a riesaminarle seriamente solo nella seconda metà del XX secolo. Quelle idee radicate sulla religione — che sia facilmente comparabile tra le culture — aiutano a spiegare perché la Silicon Valley potrebbe non sentire il bisogno di definire la propria comprensione di essa. Nel tentativo di rappresentare diverse prospettive, la religione spesso serve come modo evidente per mostrare la diversità del pensiero.

"In qualche modo, la religione diventa un modo di mappare il mondo", ha detto Masuzawa. "È come se il mondo intero ci fosse in qualche modo cascatoinci."

Alcuni osservatori vogliono che le aziende definiscano più chiaramente i loro termini e intenzioni, in modo che gli esterni possano capire meglio cosa esattamente sperino di ricavare dalla religione.

"Questo lavoro non consiste nell'allineare i nostri modelli alla visione del mondo di una sola tradizione. Vogliamo che Claude attinga a un'intera gamma di prospettive — religiose, secolari, politiche — con uguale profondità e rigore", ha detto Anthropic nel post sul blog. "Ciò che cerchiamo in queste conversazioni è un pensiero attento e accumulato su come si forma realmente il buon carattere."

Come, e se, queste conversazioni si traducano nel comportamento dei modelli resta in gran parte non divulgato, rendendo la specificità delle future rivelazioni una cosa da osservare mentre Anthropic amplia il pool di gruppi consultati.

Il rischio di omogeneizzazione

I modelli linguistici di grandi dimensioni funzionano indovinando ripetutamente la parola successiva in una frase dopo aver "imparato" i modelli di un'enorme quantità di opere scritte da esseri umani, compresi i testi religiosi. Paolo Carozza, membro dell'indipendente Meta Oversight Board ed esperto legale che studia il pensiero sociale cattolico e la tecnologia, teme che nella ricerca dell'accumulo le caratteristiche distintive di una data tradizione possano andare perdute — in effetti, omogeneizzate in qualcosa che tira verso il centro o addirittura favorisce le religioni occidentali.

"Qualsiasi tradizione viva e sofisticata, col tempo, capace di interagire con altre esterne ad essa e di assorbire nuove conoscenze e crescere. Ma lo fa in modo organico", ha detto. "Ciò che l'AI, credo, spesso fa e potenzialmente fa, non è in modo organico, ma in un modo che semplicemente getta tutto insieme, mescola tutto, e quindi non dà senso a niente."

Questo articolo è apparso originariamente su Fortune.com.