より強力な人工知能(AI)の開発競争が加速するなか、業界の主要企業の一部は、コンピュータの登場以前から存在する問いに取り組んでいる。機械に善悪を教えるにはどうすればよいのか。その答えとして増えつつあるのが「宗教」だ。

「これは研究所が答えられる問いではありません」。Anthropicの共同創業者クリス・オラー氏は今年初め、ローマ教皇レオ14世のAIに関する回勅の発表の場でこう述べた。「あなたがたのような伝統が何千年ももてきた問いなのです」。

しかし、こうした信仰への注目が話題になるなか、テック企業が宗教を何と捉えているのか、そしてさらに重要なことに、そこから何を得ようとしているのかについては、ほとんど公的な検証がなされてこなかった。

経営陣がAIの破壊的潜在力に警鐘を鳴らし、道徳的に良いモデルを開発すべきかを議論するなか、哲学者や宗教指導者からの意見聴取が増えている。こうした協議は、人間の価値観をモデルの挙動に反映させる技術的プロジェクトである「アラインメント」の一部であり、コンピュータ科学の枠を超えた分野が取り込まれつつある。経営陣の考えはおおよそ次のようなものだ。AIへの恐れ――根拠のあるものもないものも含め――が社会に広がるなか、宗教はAIが道徳的に良い存在になるための知見を与えてくれる。企業は特定の宗教に縛られていないため、目標はしばしば非常に広く、モデルに反映させる道徳的観念の集合体となる。

「ChatGPTがすべきは、人類の道徳的見解の加重平均のようなものを反映することだと思っています」。OpenAIのサム・アルトマンCEO昨年こう述べた。

しかし専門家も信者も、この考え方は、異なる伝統や世界観が互いに矛盾しうるという事実を無視していると警告する。端的に言えば、宗教はそのようには機能しないというのだ。賭け金は哲学的な問題にとどまらない。モデルが取り込んだ道徳的枠組みは、最終的にユーザーへの回答に表れる。協議そのもので議論された、読み書き教育のためのチャットボット利用のような教室での活用の場面においてもだ。

信仰を「規則集」とみる視点

宗教は信者の「混沌とした、実際的で、臨機応変な」生き方から切り離せる規則や原則の集合だという広く流布した見方に対し、学者たちは数十年にわたり反論してきたと、ミシガン大学の人類学者ウェブ・キーン氏は論じる。宗教が文化や政治から切り離せるという考えは、実際にはどちらにも浸透しているにもかかわらず、今も根強い。AI企業が宗教指導者に倫理的問いへの回答を求めるなか、教義、儀礼、人間関係の重要性を見落とした宗教理論をさらに固定化するのではないかと懸念する向きもある。

キーン氏が指摘する核心はこうだ。宗教全体が抽出可能な道徳原則の明確な集合を提供すると仮定するなら、それをAIの学習に使うことは、特定の伝統を優遇し他の伝統を歪めるリスクをはらむ。とりわけ、自らを主として倫理体系とはみなしていない信仰にとってはそうだ。

「宗教を規則集とみる非常に伝統的な考え方があります」。同氏はこう語る。「それは間違いなく聖典宗教と結びついており、突き詰めれば、聖典宗教とはアブラハムの宗教なのです」。

Anthropicの会合の内側

とはいえ、こうした協議に多様な参加者がいなかったわけではないし、参加者の一人であるノートルダム大学で倫理とAIに関する取り組みを率いる宗教哲学者、メーガン・サリバン氏の視点からすれば、宗教への向き合いは深い思慮に基づくものだった。

Anthropicは相談した伝統を列挙していないが、5月のブログ記事で「15以上の宗教および異文化団体の学者、聖職者、哲学者、倫理学者」と会合を持ったと述べ、今後対象の拡大を図りたいとしている。

今年初め、サリバン氏はこうした会合の一つのためAnthropicを訪れた。異なる教派のキリスト教徒も含まれていた。他のテック企業とのやり取りとは対照的に、同氏はAnthropicの宗教との真剣な向き合い方に感銘を受けたという。同社は倫理と安全性を最も重視するAI企業として広く見られている。

「社内の文化は良い大学のキャンパス似ています。知的に好奇心の強い人々が集まっているという意味で」。同氏はこう語る。「会合はかなりオタク的ですが――それが最適な表現か分かりませんが――良い意味でのオタク的です」。

会合は二部構成だったと同氏は言う。まず企業側が出席者に自社のモデルを「平易な言葉で」説明し、その後、宗教指導者たちがフィードバックと議論で応じた。

「この技術が引き起こすあらゆる道徳的問いが持ち上がりました。『人間には魂があるのか』から『小学3年生は読み書き教育のためにチャットボットを使うべきか』まで」。

Meta、Google、Amazonの担当者もバチカンと会合しており、Microsoftは宗教交流に熱心に取り組んでいる。

近代の発明

宗教は一般に、古くて普遍的なものと考えられている。影響力のあった故ジョナサン・Z・スミス氏のような専門家も、ある意味ではその通りだと認めるが、それは全体像ではないと言う。

「人類には、神々とその交わりのかたちを思い描くための全歴史がありました。しかし人間――より正確には西洋人――が宗教というものを思い描くようになったのは、ここ数世紀にすぎません」。スミス氏は1982年にそう書いた。

現在の宗教学者の多くはスミス氏の見解に共鳴している。諸宗教が明確で比較可能な体系の集合だという考えに疑問を呈し、それは19世紀になってようやく遡れる近代的な概念だと指摘する。

例えば仏教とヒンドゥー教は、欧州の学者が到来する以前、実践する人々自身には明確な境界を持つ伝統として認識されていなかったと、著書『世界宗教の発明』のある宗教学者トモコ・マスザワ(増澤知子)氏は言う。

「こうしたカテゴリーはいずれも土着のものではなかった」と同氏は述べる。

西洋の学者たちは長年こうしたカテゴリーを固定化し、本格的に再検討し始めたのは20世紀後半になってからだった。宗教は文化を越えて容易に比較できるという根強い考え方は、シリコンバレーが自らの宗教観を定義する必要を感じない理由の説明にもなる。多様な視点を代表しようとする際、宗教は思想の多様性を示す分かりやすい手段となりがちだ。

「なぜか宗教が世界を地図に描くような手段になってしまう」。マスザワ氏はこう言う。「まるで世界全体がそれを受け入れたかのようです」。

企業が宗教から何を得ようとしているのかをよりよく理解するため、用語や意図をさらに明確に定義すべきだと望む人々もいる。

「この取り組みは、モデルを特定の伝統の世界観に整合させるではありません。私たちはClaudeが、宗教的、世俗的、政治的を問わあらゆる視点から、等しい深さと厳密さで引き出せるようにしたいのです」。Anthropicはブログ記事でこう述べた。「こうした対話で私たちが求めているのは、良い人格が実際にどう形成されるかについての、慎重で蓄積的な思考です」。

こうした対話がモデルの挙動にどう、あるいはどこまで反映されるかは、ほとんど公表されておらず、Anthropicが相談対象を拡大するなか、今後の情報開示の具体性が注目すべき点となっている。

均質化のリスク

大規模言語モデルは、宗教文書を含む膨大な人間の書いた文章のパターンを「学習」したうえで、文の次の単語を繰り返し予測することで機能する。独立したMeta監督委員会の委員で、カトリック社会思想と技術を研究する法学者パオロ・カロッツァ氏は、蓄積の追求のなかで、特定の伝統の本質的な特徴が失われ、中間に引き寄せられたり、西洋宗教を優遇するような均質化されたものになりかねないと懸念する。

「生きた洗練された伝統は、時間をかけて外部の他の伝統と交流し、新しい知識を吸収し成長することができます。しかしそれは有機的な形で行われます」。同氏はこう語る。「AIがしばしば、あるいは潜在的に行うのは、有機的な形ではなく、すべてを一つに放り込み、混ぜ合わせるやり方であり、その結果、何ひとつ意味をなさなくなるのです」。

この記事は元々Fortune.comに掲載されたものです。