新聞宏觀經濟Sam Altman 警告勿賦予 AI 模型宗教地位

Sam Altman 警告勿賦予 AI 模型宗教地位

作者: CryptoBriefing·

重點速覽

  • •OpenAI 執行長 Sam Altman 於 2026 年 10 月 3 日在 X 上表示,他對將宗教力量賦予 AI 模型的想法「非常不安」,並稱這是真正的安全隱憂。
  • •Anthropic 為其 Claude 模型維護一份長達 84 頁的治理章程,內部稱為「靈魂文件」(Soul Doc),該文件匯集了哲學家與宗教領袖的意見。
  • •《紐約時報》於 2026 年 9 月 29 至 30 日發表的一篇調查報導,詳述了由共同創辦人 Christopher Olah 領導的一項 Anthropic 計畫,該計畫自 2025 年秋季起聚集宗教學者,探討 AI 系統中的道德、意識與道德地位。
  • •教宗良十四世公開否定機器可能具有意識的想法,使一位重要宗教聲音反對 Anthropic 信仰接觸行動的前提。
  • •這場分歧反映了兩種競爭的安全理論——人類作為負責任方、AI 作為工具,對比擁有內在道德羅盤的模型——可能影響採購決策、政策辯論與投資人評估。
Sam Altman 警告勿賦予 AI 模型宗教地位

Sam Altman 希望人們不要再把聊天機器人當成可能擁有靈魂的存在。這位 OpenAI 執行長於週六表示,他對將某種宗教力量賦予 AI 模型的想法「非常不安」——Axios 將這番言論解讀為對 Anthropic 的含蓄批評,這家競爭對手實驗室一直在探索 AI 擁有道德核心的意義。

Altman 於 2026 年 10 月 3 日在 X 上的一則貼文中發表了這些言論。他將賦予 AI 宗教地位並非視為個人品味問題,而是真正的安全隱憂——將一場聽起來像是神學爭論的分歧,直接置於 AI 業界關於模型應獲得多少自主權的持續辯論之中。他沒有直接點名 Anthropic,其實也不需要:《紐約時報》於 2026 年 9 月 29 至 30 日發表的一篇調查報導,時機與他的貼文完美呼應。

該報導詳述了由 Anthropic 共同創辦人 Christopher Olah 領導的一項計畫,召集來自多個宗教傳統的學者。據報導,這些聚會始於 2025 年秋季,重點在於如何將道德建構進 AI 系統,包括關於意識與道德地位的棘手問題。據 Axios 報導,Anthropic 據稱已尋求各信仰的學者協助,為具有道德且有意識的模型提出論證。

Anthropic 的「靈魂文件」內幕

Anthropic 方法的核心是一份為其 Claude 模型制定的治理文件。這份章程長達 84 頁,內部稱為「靈魂文件」(Soul Doc)。它匯集了哲學家與宗教領袖的意見。這類文件是模型應如何行為的參考依據,這也是為什麼為其選擇的語言具有超越哲學層面的實際分量。

Altman 的反對意見似乎落在更進一步的部分。將倫理寫入系統是一回事;暗示系統本身可能是道德或有意識的實體則是另一回事,而這正是他感到不安之處。

並非只有他一個人劃出這條界線。教宗良十四世公開否定機器可能具有意識的想法——考慮到宗教聲音正是 Anthropic 試圖開啟的對話的一部分,這個立場引人注目。

舊競爭的新戰線

Dario Amodei 在離開 OpenAI 後,於 2021 年創立 Anthropic,明言目標是將 AI 安全與倫理置於公司工作的核心。Axios 將這次最新交鋒描述為 Altman 與這位前同事之間又一個分歧點。

這場分裂對應兩種截然不同的安全理論。Altman 陣營將人類視為負責任的一方,AI 則是工具。Anthropic 的方法則傾向於賦予模型自身的內在道德羅盤。這些防護措施應位於何處——是在操作系統的人身上,還是在系統本身——已成為該領域最具影響力的設計問題之一。

這對 AI 產業意味著什麼

對於正在決定與哪家 AI 供應商合作的企业而言,一個實驗室如何看待其模型,決定了這些模型如何行為、拒絕請求,以及如何向使用者解釋自己。

其中也涉及公眾信任的層面。如果人們開始賦予聊天機器人精神意義,過度依賴的可能性就會增加。這似乎正是 Altman 所指出的安全隱憂:使用者將模型的輸出視為智慧,而非訓練的產物。

另一方面,Anthropic 對宗教與倫理傳統的接觸,可能會吸引那些希望有證據顯示 AI 開發商認真對待道德問題的客戶與監管機構。

AI 領域的投資人可能需要關注這場分歧將如何影響合作夥伴關係與資金。公司對模型意識等問題的立場,可能開始出現在採購決策、政策辯論與聲譽風險評估中。懸而未決的問題是,這場分歧是停留在哲學層面,還是會固化為實際的考驗——體現在使用者接觸的產品與監管機構制定規則之中。