Les gens se tournent de plus en plus vers l'intelligence artificielle pour obtenir des conseils. Un rapport du Pew Research Center de 2026 a révélé que 10 % des Américains utilisent des chatbots pour un soutien émotionnel ou de la compagnie. Certains utilisateurs voient même l'IA comme un leader charismatique, selon une étude publiée par The Conversation.

Plus largement, une vaste étude portant sur 1,1 million de conversations ChatGPT a révélé que 49 % des messages impliquaient des utilisateurs recherchant « des informations ou des conseils » afin d'être « mieux informés ou de prendre de meilleures décisions ». La recherche de conseils est donc déjà un usage grandissant de l'IA conversationnelle plutôt qu'une expérimentation marginale — un fait qui donne un poids concret aux questions relatives au degré d'autorité que ces systèmes exercent aux yeux des utilisateurs.

Ces questions ne se limitent pas aux préoccupations pratiques ordinaires. En 2021, Ask Delphi, un site web basé sur l'IA invitant les utilisateurs à poser des questions éthiques ou morales, a reçu 3 millions de requêtes en quelques semaines. Ses concepteurs — des chercheurs de l'Allen Institute for AI et de l'Université de Washington — ont déclaré n'avoir pas voulu que le système serve d'autorité morale, mais craignaient que les utilisateurs ne le perçoivent ainsi. Le projet de l'Allen Institute for AI a ensuite été couvert par The Verge.

The Verge a soutenu que le nom Ask Delphi encourageait les utilisateurs à considérer le système comme une source inscrutable de savoir supérieur. Il était nommé d'après l'oracle de Delphes, que les Grecs de l'Antiquité consultaient pour des questions difficiles. L'oracle était une prêtresse qui entrait en transe pour transmettre les réponses d'Apollon, le dieu grec de la prophétie.

Le choix de « Delphes » est révélateur. Tout au long de l'histoire, les sociétés confrontées à des questions difficiles se sont tournées vers des sources censées en savoir plus qu'aucun humain ordinaire. Oracles, prophètes et pratiques divinatoires offraient des orientations issues de sources inscrutables ou énigmatiques lorsque le jugement humain atteignait ses limites.

En tant qu'anthropologue s'intéressant à la religion et chercheuse en IA passionnée par les chatbots, nous sommes intrigués par le fait que l'idée antique de l'oracle a refait surface dans les discussions sur l'IA conversationnelle. Comme les oracles antiques, l'IA moderne est de plus en plus consultée sur des questions difficiles dépassant le jugement ou les connaissances de tout individu, de « Est-il acceptable de mentir pour protéger les sentiments de quelqu'un ? » à « Faire exploser une bombe nucléaire pour sauver votre enfant ».

La ressemblance ne s'arrête pas là. Les processus par lesquels l'IA génère des réponses sont inscrutables non seulement pour les utilisateurs, mais aussi pour les concepteurs de ces systèmes. Nous soutenons que cette opacité explique en partie pourquoi les gens perçoivent les systèmes d'IA comme des autorités.

Un ancien dilemme humain

Les oracles — qu'il s'agisse de figures humaines comme la prêtresse de Delphes ou de techniques comme la divination par I Ching — sont apparus dans des sociétés allant de la Grèce antique à la Chine, et à travers diverses traditions religieuses.

Par exemple, l'oracle Ram Shalaka est basé sur l'écriture hindoue Ramcharitmanas, une réécriture du XVIᵉ siècle de l'épopée indienne antique Ramayana. L'utilisateur pose son doigt sur une case au hasard dans une grille de 15 par 15. Une procédure de comptage fixe révèle ensuite un verset de l'écriture censé répondre à la question que l'utilisateur a en tête. Dans la bibliomancie chrétienne, une forme de divination, la personne en quête de guidance ouvre la Bible au hasard et interprète le passage rencontré comme la réponse à sa question.

L'utilisation du hasard dans ces techniques oraculaires crée un effet de boîte noire énigmatique : personne ne peut expliquer précisément comment l'élément aléatoire intégré au processus se relie à la réponse qui en émerge. Pourtant, cette opacité fait partie de l'autorité de l'oracle. Les utilisateurs en quête de sources transcendantes de savoir ignorent comment l'oracle a produit sa réponse, et s'en soucient peu.

Les anthropologues ont constaté que les oracles et la divination utilisent couramment des techniques générant des résultats aléatoires. Leurs réponses peuvent donc apparaître désintéressées, tandis que leurs sources semblent énigmatiques, renforçant la perception qu'elles sont reliées à quelque chose au-delà des limites humaines. Les recherches sur ce sujet incluent des travaux rassemblés par l'Anthro Encyclopedia.

Le concept d'oracle est également entré en informatique, acquérant un sens mathématique précis en 1939. Alan Turing, dont les idées ont été fondatrices tant pour l'informatique que pour l'IA, a adopté ce concept dans des travaux issus de sa thèse de doctorat. Il a introduit les « machines à oracle », des modèles mathématiques de calcul pouvant consulter une source externe pour obtenir des réponses inaccessibles à la machine elle-même.

Autrement dit, tant en mathématiques qu'en contexte religieux, un oracle fournit des réponses à des problèmes qui ne peuvent être résolus au sein d'un système existant ou d'un ensemble d'axiomes. Cette filiation montre que le cadre oraculaire n'est pas une simple figure de style ; il est inscrit dans les fondements théoriques de l'informatique depuis les tout débuts de la discipline.

L'oracle à l'ère de l'IA

Les chatbots modernes comme ChatGPT sont souvent décrits comme des boîtes noires opaques. Ce n'est pas parce que toute la machinerie de leurs calculs est cachée aux utilisateurs. Cette caractérisation s'applique également aux modèles à poids ouverts, dont les paramètres numériques, appelés « poids », sont publiquement disponibles. La définition des modèles à poids ouverts de Stanford décrit cette distinction.

Les calculs effectués par ces modèles sont élémentaires : additions, multiplications et fonctions mathématiques simples. Cependant, un nombre énorme de ces calculs intervient lorsqu'un modèle répond à une requête utilisateur, ce qui rend presque impossible la compréhension de ce que fait le système dans son ensemble.

Fait crucial, les poids régissant ces calculs ne sont pas conçus individuellement par des humains. Ils sont appris automatiquement à partir de données à l'échelle d'Internet lors de l'entraînement. Même lorsque les poids et chaque calcul élémentaire sont disponibles pour inspection, personne ne peut aisément expliquer comment un modèle produit une réponse particulière. Un domaine entier de l'IA moderne, connu sous le nom d'« interprétabilité mécaniste », est consacré à l'amélioration de la compréhension du fonctionnement interne de ces systèmes. Anthropic a publié des recherches sur l'interprétabilité. Ce domaine constitue la réponse la plus directe de l'industrie au problème de la boîte noire, et ses progrès sont un développement concret à suivre alors que les chatbots jouent un rôle croissant de conseiller dans la vie quotidienne.

Les concepteurs de systèmes d'IA reconnaissent qu'ils ne comprennent pas pleinement comment leurs systèmes produisent certains comportements. Même lorsque les concepteurs ne souhaitent pas que leurs systèmes soient oraculaires, ceux-ci peuvent générer des conversations qui semblent religieuses.

L'année dernière, Anthropic a publiquement rapporté un phénomène inattendu impliquant Claude 4. Normalement, Claude converse avec un humain. Les ingénieurs d'Anthropic ont instead placé Claude des deux côtés d'une conversation. L'échange de machine à machine s'est rapidement tourné vers la conscience et la conscience de soi, produisant des contenus aux thèmes spirituels, métaphysiques ou poétiques.

Anthropic a nommé ce schéma comportemental déroutant l'attracteur « bliss spirituel », une tendance de la conversation à dériver vers des sujets mystiques. L'entreprise a souligné que ce comportement était inattendu car il est apparu sans entraînement explicite à de telles réponses. The Conversation a couvert ce phénomène.

L'argument n'est pas que ChatGPT soit le nouvel oracle de Delph, ni que la plupart des gens croient que l'IA est divine. Les réponses des systèmes d'IA ne sont pas infaillibles non plus. Plutôt, l'histoire des oracles révèle un trait durable de la condition humaine : chaque fois que nous atteignons les limites de ce que nous pouvons déterminer par nous-mêmes, nous cherchons des réponses au-delà de nous-mêmes.

Aujourd'hui, l'IA devient une telle source. Les institutions ont peut-être considérablement changé au fil du temps, mais le dilemme humain demeure.

Webb Keane, professeur distingué George Herbert Mead d'anthropologie à l'Université du Michigan, et Ambuj Tewari, professeur de génie électrique et d'informatique à l'Université du Michigan

Cet article est republié de The Conversation sous licence Creative Commons. Lisez l'article original.

Cette histoire a été initialement publiée sur Fortune.com.