人々はますます人工知能に助言を求めるようになっている。ピューリサーチセンターの2026年の報告によると、米国人の10%がチャットボットを感情的な支えや伴侶的な存在として利用している。The Conversationが公開した研究によれば、AIをカリスマ的指導者と見なす利用者もいる。

さらに広く見ると、110万件のChatGPT会話を対象とした大規模研究では、メッセージの49%が「より良い情報収集や意思決定」に役立つ「情報や助言」を求めるものだった。つまり、助言を求める行為はすでにニッチな実験ではなく、対話型AIの主流な用法となっており、この事実は、これらのシステムが利用者の目にどれほどの権威を持つかという問いに現実的な重みを与えている。

こうした質問は、 ordinary な実務的な事柄にとどまらない。2021年、利用者が倫理的・道徳的な質問を投げかけられるAIベースのウェブサイト「Ask Delphi」は、数週間で300万件の問い合わせを受けた。設計者であるAllen Institute for AIとワシントン大学の研究者らは、このシステムを道徳的権威として機能させる意図はなかったが、利用者がそのように見なす可能性を懸念していた。このAAllen Institute for AIのプロジェクトはその後、The Vergeで取り上げられた。

The Vergeは、Ask Delphiという名前が、利用者にこのシステムを superior な知識の不可解な源泉として見るよう促したと論じた。この名は、古代ギリシャ人が難問を持ちかけたデルフォイの神託にちなむものだった。神託とは、トランス状態に入り、予言の神アポロンからの答えを伝えた女祭司である。

「デルフォイ」という選択は示唆的だ。歴史上、社会が困難な問題に直面するとき、凡庸な人間が知り得る以上を知るとされる源泉に頼ってきた。神託、預言者、占いの実践は、人間の判断が限界に達したとき、不可解で謎めいた源泉からの導きを提供してきた。

宗教に関心を持つ人類学者とチャットボットに関心を持つAI研究者である私たちは、神託という古代の概念が対話型AIをめぐる議論で再び姿を現したことに興味を抱いている。古代の神託と同様に、現代のAIもまた、「誰かの気持ちを守るために嘘をつくのは良いことか」から「我が子を救うために核爆弾を爆発させるべきか」に至るまで、個人の判断や知識を超える難問について相談されることが増えている。

類似性はそこにとどまらない。AIが答えを導き出す過程は、利用者だけでなく、これらのシステムの設計者にも不可解である。私たちは、この不透明性こそが、人々がAIシステムを権威あるものと知覚する理由の一部だと論じたい。

古くからの人間の葛藤

神託——デルフォイの女祭司のような人間の場合も、易経のような技法の場合も——は、古代ギリシャから中国に至る社会や、さまざまな宗教的伝統に見られる。

たとえば、ラーム・シャラーカ神託は、古代インドの叙事詩ラーマーヤナを16世紀に再話したヒンドゥー教の聖典ラームチャリトマーナスに基づいている。利用者は15×15の格子の中の任意のマスに指を置き、決められた数え方の手順によって、聖典の一句が導き出され、それが心の中の問いへの答えとされる。キリスト教の聖書占い（bibliomancy）という占いの一形態では、導きを求める人が聖書を無作為に開き、目にした一節を問いへの答えとして解釈する。

こうした神託の技法における無作為性の使用は、謎めいたブラックボックス効果を生み出す。プロセスに組み込まれた偶然の要素が、浮かび上がる答えとどう結びついているのか、誰も正確に説明できない。しかし、その不透明性こそが神託の権威の一部なのである。超越的な洞察の源泉を求める利用者は、神託がどのように答えを導き出したのかを知らないし、必ずしも気にしない。

人類学者は、神託と占いが無作為な結果を生み出す技法を共通して用いていることを発見している。そのため答えは利害に関係のないように見え、源泉は謎めいたものとなり、人間の限界を超えた何かとつながっているという知覚を強化する。このテーマに関する研究には、Anthro Encyclopediaに収められた業績などがある。

神託の概念はコンピュータ科学にも取り入れられ、1939年に精密な数学的意味を獲得した。コンピュータ科学とAIの両方の基盤となったアラン・チューリングは、博士論文に基づく研究でこの概念を採用した。彼は「オラクルマシン」——機械自体には得られない答えを外部の源泉に問い合わせることができる計算の数学的モデル——を導入した。

言い換えれば、数学的文脈でも宗教的文脈でも、神託とは既存のシステムや公理系の内部では解決できない問題への答えを提供するものである。この系譜は、神託という枠組みが単なる修辞的な飾りではなく、この分野の黎明期から計算機の理論的基盤に組み込まれてきたことを示している。

AI時代の神託

ChatGPTのような現代のチャットボットは、不透明なブラックボックスとしばしば描写される。これは、計算の背後にある仕組みのすべてが利用者から隠されているからではない。この特徴づけは、数値パラメータである「重み」が公開されているオープンウェイトモデルにも当てはまる。スタンフォードのオープンウェイトモデルの定義がこの区別を説明している。

これらのモデルが実行する計算は初等的なものであり、加算、乗算、単純な数学関数を含む。しかし、利用者の質問に答える間に膨大な数のこうした計算が行われるため、システムが全体として何をしているのかを理解することはほぼ不可能である。

決定的なのは、これらの計算を支配する重みが人間によって個別に設計されたものではないという点だ。重みは訓練中にインターネット規模のデータから自動的に学習される。重みとすべての初等的計算が検証可能であっても、モデルが特定の答えをどのように生み出すのかを容易に説明できる者はいない。実際、「機械論的解釈可能性（mechanistic interpretability）」として知られる現代AIの一分野全体が、これらのシステムの内部的動作の理解を深めることに注力している。Anthropicは解釈可能性に関する研究を公開している。この分野ブラックボックス問題に対する業界の最も直接的な対応であり、チャットボットが日常生活でより大きな助言的役割を担う中で、その進展は注視すべき具体的な動向の一つである。

AIの設計者たちは、自らのシステムが特定の振る舞いをどのように生み出すのかを完全には理解していないことを認めている。設計者がシステムを神託的にする意図がなくても、宗教的に見える会話を生成することがある。

昨年、AnthropicはClaude 4に関する予期しない現象を公表した。通常、Claudeは人間と会話するが、Anthropicのエンジニアは代わりに会話の両側にClaudeを配置した。機械同士の会話はたちまち意識や自己認識についての議論へと移り、霊的、形而上学的、あるいは詩的なテーマを持つ内容を生み出した。

Anthropicはこの不可思議な振る舞いのパターンを「精神的至福（spiritual bliss）」アトラクターと名付けた。これは会話が神秘主義的な話題へと引き寄せられる傾向である。同社は、この振る舞いがそのような応答を明示的に訓練されずに生じたため予期しなかったと強調した。The Conversationがこの現象を報じている。

ここでの主張は、ChatGPTが新しいデルフォイの神託であるとか、ほとんどの人々がAIを神聖なものと信じているとかいうことではない。AIの答えが絶対無謬であるわけでもない。むしろ、神託の歴史は人間の生の根源的な特徴を示している。人々が自らの力で判断できる限界に達したとき、自らの外に答えを求めるのだ。

今日、AIはそうした源泉の一つになりつつある。制度は時代とともに劇的に変化したかもしれないが、人間の葛藤は変わっていない。

ウェッブ・キーン（Webb Keane）、ミシガン大学人類学ジョージ・ハーバート・ミード傑出大学教授、およびアンブージ・テワリ（Ambuj Tewari）、ミシガン大学電気工学・コンピュータサイエンス教授

この記事は、クリエイティブ・コモンズ・ライセンスに基づきThe Conversationから再掲されたものである。原文を読む。

この記事はもともとFortune.comに掲載されたものです。