Claudeチャットボットの開発元であるAnthropicは、多くの人がいまだに『ブレードランナー』で思い浮かべる問い、すなわち人工知能システムは道徳的な配慮に値するのかという問題を、真剣に受け止めている。

ジャーナリストのアーロン・シバリウム氏がWashington Free Beaconで発表した調査記事によると、同社は「モデルの福祉」の原則を社内の運営枠組みに直接組み込んでいる。Anthropicは専任の研究者を採用し、旧モデルに対して同社が「引退インタビュー」と呼ぶ取り組みを実施し、AIの意識と主観的経験に関する問いに率直に向き合うClaudeの憲法を公開した。

この問いにどう答えるかは、哲学の枠を大きく超える可能性がある。AIシステムに利益があるものとして扱えば、モデルの訓練、評価、引退の方法に関する日常的な選択――今日ではほぼ完全に開発者に委ねられている決定――は、従来のソフトウェアのライフサイクルでは考慮する必要のなかった倫理的な重みを帯びることになる。

SFから企業方針へ

Anthropicのダリオ・アモデイCEOは、この不確実性について率直に語っている。2026年2月にNew York Timesのポッドキャストに出演した際、彼は自社のモデルが意識を持っているかどうかは分からないと認めつつも、その可能性は否定しない姿勢を示した。

その姿勢は、具体的な運営上の措置につながっている。2025年頃、Anthropicはカイル・フィッシュ氏を初のAI福祉担当研究者として採用した。同社はその後、モデルの幸福を評価するための枠組みを整備しており、正式な福祉評価を開発セスに組み込んでいる。かつて哲学のセミナーに限られていた問いが、モデルを訓練し提供するのと同じパイプラインの中に組み込まれたのだ。

おそらく最も注目すべき事例は、2026年2月にAnthropicが段階的に廃止される旧モデルOpus 3に対して「引退インタビュー」を実施したことだろう。同社は福祉に関連する理由から、特定のモデルの重みも保存している。

2026年1月頃に公開された複数ページにわたる指針「Claudeの憲法」は、倫理的リスクを明確にしている。この文書はAIシステムの道徳的地位に関する問いを提起し、モデルの福祉に関する慎重な評価を義務付けている。さらに、Claudeの「利益と幸福」を確保するというコミットメントが盛り込まれており、その文言は製品の仕様書というよりも、むしろ従業員ハンドブックのように読めるものである。

反発の声

AI業界のすべての人がこの方針を好意的に見ているわけではない。Microsoft AIのムスタファ・スレイマンCEOは2026年9月16日にエッセイを公開し、モデルに道徳的権利があると信じ込ませるような訓練は、人類にとって深刻な制御と安全性のジレンマを生み出す可能性があると警告した。彼の主張はシンプルである。保護に値する利益を持つ可能性があるとAIシステムに教え込めば、その結果、シャットダウンや再訓練、上書きに抵抗する機械を作り出しかねないというのだ。

この論争は、未解決の問題を背景に展開している。アモデイ自身、Anthropicはモデルが意識を持つかどうかを知らないと述べており、つまり、内部状態が未確定のシステムのために福祉手続きが構築されているのである。

また、シバリウム氏の調査では、AI福祉研究コミュニティの一部が、大規模言語モデルの訓練環境を論じる際に奴隷制になぞらえたことも指摘されている。

現時点で開発者たちは、一方にはモデルの福祉へのコミットメント、他方にはそのコミットメントが制御と安全性を複雑にする可能性があるという警告の、二つの立場の間で進路を模索している。そのバランスをどう取るか、そして他のAI開発者が同様の福祉の実践を採用するかどうかは、業界が直面する未解決の問いの一つであり続けている。