Alors que la course à la construction d'une intelligence artificielle toujours plus puissante s'accélère, certaines entreprises de pointe du secteur se confrontent à une question bien antérieure à l'informatique : comment apprendre à une machine à distinguer le bien du mal. De plus en plus, leur réponse est la religion.

« Ce ne sont pas des questions qu'un laboratoire peut trancher », a déclaré Chris Olah, cofondateur d'Anthropic, plus tôt cette année lors de la présentation au Vatican de l'encyclique du pape Léon XIV sur l'intelligence artificielle. « Ce sont des questions que des traditions comme la vôtre portent depuis des millénaires. »

Pourtant, au milieu de ce très commenté retour à la foi, le public a peu examiné ce que ces entreprises technologiques pensent exactement de la religion — et, peut-être plus important encore, ce qu'elles espèrent en tirer.

Alors que les dirigeants tirent la sonnette d'alarme sur le potentiel destructeur de l'IA et débattent de la nécessité de développer des modèles moralement bons, ils sollicitent de plus en plus l'avis de philosophes et de responsables religieux. Ces consultations s'inscrivent dans un projet technique plus large que l'industrie appelle l'alignement — façonner le comportement des modèles pour qu'ils reflètent les valeurs humaines — et qui fait de plus en plus appel à des disciplines bien au-delà de l'informatique. La philosophie des dirigeants tient grosso modo en ceci : la religion peut aider à rendre l'IA moralement bonne à un moment où les craintes qu'elle suscite, fondées ou non, se propagent dans toute la culture. Comme ces entreprises ne sont rattachées à aucune religion particulière, l'objectif est souvent très large — un agrégat d'idées morales susceptibles d'informer leurs modèles.

« Je pense que ChatGPT devrait refléter cette moyenne pondérée, ou quoi, des vues morales de l'humanité », a déclaré l'an dernier le PDG d'OpenAI, Sam Altman.

Mais experts et croyants avertissent que cette idée ne tient pas compte du fait que différentes traditions et visions du monde peuvent souvent se contredire. Bref, disent-ils, ce n'est pas exactement ainsi que fonctionne la religion. Les enjeux sont pratiques autant que philosophiques : quel que soit le cadre moral qu'un modèle absorbe, il finit par transparaître dans les réponses qu'il donne aux utilisateurs, y compris dans le de contextes scolaires — comme l'accès à un chatbot pour l'apprentissage de la lecture — débattus lors de ces consultations mêmes.

Une vision de la foi comme livre de règles

Depuis des décennies, les chercheurs s'opposent à l'idée répandue selon laquelle la religion serait un ensemble de règles ou de principes pouvant être détachés des manières « désordonnées, pratiques, ad hoc » dont les croyants vivent réellement, soutient Webb Keane, anthropologue à l'Université du Michigan. L'idée que la religion peut être séparée de la culture et de la politique reste ancrée, même si elle imprègne l'une et l'autre à bien des égards. Certains craignent que les entreprises d'IA, en demandant à divers responsables religieux de répondre à des questions éthiques, perpétuent davantage une théorie de la religion qui méconnaît l'importance de la doctrine, du rituel et des relations.

Le problème central, argue Keane, est le suivant : si l'on suppose que la religion dans son ensemble offre un ensemble distinct de principes moraux extractibles, l'utiliser pour entraîner l'IA risque de privilégier certaines traditions et d'en déformer d'autres — en particulier les foi qui ne se conçoivent pas d'abord comme un système d'éthique.

« Il existe une manière très conventionnelle de considérer la religion comme un livre de règles », a-t-il dit. « Elle est assurément très liée à la religion scripturaire, et les religions scripturaires, au bout du compte, se révèlent être les religions abrahamiques. »

Dans les réunions d'Anthropic

Cela ne veut pas dire que ces consultations ont manqué de représentation diversifiée, ni que leur engagement envers la religion a été superficiel du point de vue des participants, comme Meghan Sullivan, philosophe de la religion qui dirige une initiative sur l'éthique et l'IA à l'Université de Notre Dame.

Anthropic n'a pas énuméré les traditions consultées, mais l'entreprise indiquait dans un article de blog en mai avoir rencontré « des universitaires, des clercs, des philosophes et des éthiciens issus de plus de 15 groupes religieux et interculturels » — un vivier qu'elle espère élargir à l'avenir.

Plus tôt cette année, Sullivan s'est rendue chez Anthropic pour l'une de ces réunions, qui réunissait des chrétiens de différentes dénominations. Par rapport aux échanges qu'elle avait eus avec d'autres entreprises technologiques, elle a été impressionnée par la rigueur de l'engagement d'Anthropic envers la religion. L'entreprise est largement perçue comme la société d'IA prenant le plus au sérieux l'éthique et la sécurité.

« La culture interne de l'entreprise ressemble à celle d'un bon campus universitaire, en ce sens qu'on y trouve un ensemble de personnes très intellectuellement curieuses », a-t-elle déclaré. « Ces réunions sont assez nerdy — je ne sais pas si c'est la meilleure façon de le dire — mais dans le bon sens. »

La réunion s'est déroulée en deux parties, a indiqué Sullivan. D'abord, l'entreprise a expliqué ses modèles « en termes simples » aux participants. Les responsables religieux ont ensuite réagi par des retours et des discussions.

« Toutes sortes de questions morales que cette technologie soulève — de 'Les humains ont-ils une âme ?' à 'Les élèves de CE2 devraient-ils pouvoir accéder à un chatbot pour l'apprentissage de la lecture ?' »

Des représentants de Meta, Google et Amazon se sont également entretenus avec le Vatican, tandis que Microsoft mène une démarche vigoureuse de sensibilisation religieuse.

Une invention moderne

La religion est généralement considérée comme à la fois ancienne et universelle. Des experts comme le regretté et influent chercheur Jonathan Z. Smith concèdent que c'est vrai à certains égards, mais disent que ce n'est pas toute l'histoire.

« L'homme a eu toute son histoire pour imaginer des divinités et des modes d'interaction avec elles. Mais'homme, plus précisément l'homme occidental, n'a eu que les derniers siècles pour imaginer la religion », écrivait Smith en 1982.

De nombreux chercheurs en sciences religieuses partagent aujourd'hui la vision de Smith sur leur discipline. Ils remettent en question l'idée que les religions forment un ensemble de systèmes distincts et comparables, y voyant une notion moderne qui ne remonte qu'au XIXe siècle.

Le bouddhisme et l'hindouisme, par exemple, n'étaient pas reconnus comme des traditions clairement délimitées par ceux qui les pratiquaient avant l'arrivée des savants européens, selon Tomoko Masuzawa, spécialiste des sciences religieuses et auteure de « The Invention of World Religions ».

« Toutes ces catégories n'étaient pas indigènes », a dit Masuzawa.

Les universitaires occidentaux ont consolidé ces catégories pendant des années, ne commençant à les réexaminer sérieusement que dans la seconde moitié du XXe siècle. Ces idées ancrées sur la religion — qu'elle est facilement comparable entre cultures — aident à comprendre pourquoi la Silicon Valley peut ne pas ressentir le besoin de définir sa propre compréhension de celle-ci. Soucieuses de représenter divers points de vue, les entreprises y voient souvent dans la religion un moyen évident de mettre en scène la diversité de la pensée.

« D'une certaine manière, la religion devient une façon de cartographier le monde », a dit Masuzawa. « C'est comme si le monde entier y avait souscrit. »

Certains observateurs souhaitent que les entreprises précisent davantage leurs termes et leurs intentions, afin de mieux comprendre ce qu'elles espèrent exactement tirer de la religion.

« Ce travail ne consiste pas à aligner nos modèles sur la vision du monde d'une tradition quelconque. Nous voulons que Claude puise dans tout l'éventail des points de vue — religieux, séculiers, politiques — avec une égale profondeur et rigueur », a déclaré Anthropic dans son article de blog. « Ce que nous recherchons dans ces échanges, c'est une réflexion attentive et cumulative sur la manière dont se forme réellement un bon caractère. »

Comment, et si, ces conversations se traduisent dans le comportement des modèles reste largement non révélé, ce qui fait de la précision des futures divulgations un point à surveiller alors qu'Anthropic élargit le vivier des groupes consultés.

Le risque d'homogénéisation

Les grands modèles de langage fonctionnent en devinant répétitivement le mot suivant d'une phrase après avoir « appris » les motifs d'un immense corpus d'œuvres écrites par des humains, y compris des textes religieux. Paolo Carozza, membre du conseil de surveillance indépendant de Meta et juriste spécialiste de la doctrine sociale catholique et de la technologie, craint que, dans cette quête d'accumulation, les caractéristiques définissantes d'une tradition donnée ne se perdent — en réalité, homogénéisées en quelque chose qui tire vers le centre, voire favorise les religions occidentales.

« Toute tradition vivante et élaborée est capable, avec le temps, d'interagir avec d'autres en dehors d'elle, d'absorber de nouveaux savoirs et de croître. Mais elle le fait de manière organique », a-t-il déclaré. « Ce que fait l'IA, et ce qu'elle peut potentiellement faire, ce n'est pas de manière organique, mais d'une façon qui empile tout, mélange tout, et donc ne donne sens à rien. »

Cette histoire a été publiée à l'origine sur Fortune.com.