隨著打造更強大人工智慧的競賽加速，業界一些領先公司正面對一個遠早於電腦時代就存在的問題：如何教會機器分辨善惡。而他們日益給出的答案是：宗教。

「這些不是實驗室能回答的問題,」Anthropic共同創辦人Chris Olah今年稍早在梵蒂岡發表教宗良十四世關於人工智慧的通諭時表示。「這些是你們這類傳統已承載數千年的問題。」

然而,在這場廣受討論的轉向信仰之際,外界對這些科技公司究竟如何理解宗教——或許更重要的是,他們想從宗教中得到什麼——幾乎缺乏公開檢視。

隨著高層對AI的破壞性潛力示警,並爭論開發道德良善模型的必要性,他們日益尋求哲學家與宗教領袖的意見。這些諮詢隸屬於業界所稱「對齊」(alignment)這項更廣泛的技術工程——即塑造模型行為以反映人類價值觀——而這項工程日益仰賴電腦科學以外的學科。這些高層的理念大致如下:在對AI的恐懼(無論有無根據)席捲文化的當下,宗教能幫助AI形成道德良善的判斷。由於這些公司不受任何特定信仰約束,其目標往往相當寬泛——彙整各種道德觀念,用以指導其模型。

「我認為ChatGPT應該反映的是人類道德觀的加權平均值,或諸如此類的東西,」OpenAI執行長Sam Altman去年表示。

但專家與信眾都警告,這種想法未能正視不同傳統與世界觀之間經常相互矛盾的事實。簡言之,他們說,宗教並不是這樣運作的。其中的利害不僅是哲學層面,也有實際層面:模型吸收的任何道德框架,最終都會體現在其給予使用者的答案中,包括在諮詢過程本身討論到的課堂情境——例如讓聊天機器人輔助識字教育。

把信仰視為規則手冊的觀點

密西根大學人類學家Webb Keane指出,數十年來,學者一直反對一種普遍觀點,即宗教是一套可以脫離信眾「混亂、務實、臨時應變」生活方式的規則或原則。宗教可以與文化和政治分離的觀念依然根深蒂固,儘管宗教在許多方面滲透於兩者之中。有人擔心,當AI公司要求宗教領袖回答倫理問題時,將進一步延續一種忽視教義、儀式與人際關係重要性的宗教理論。

Keane認為,核心問題在於:如果你假設宗教整體上能提供一套明確、可萃取的道德原則,用它來訓練AI就有偏重某些傳統、扭曲其他傳統的風險——尤其是那些並不主要將自身視為倫理體系的信仰。

「有一種非常傳統的思維方式,是把宗教當成一本規則手冊,」他說。「這當然與經典宗教緊密相連,而歸根結底,這些經典宗教其實就是亞伯拉罕諸教。」

Anthropic會議內幕

這並不是說這些諮詢缺乏多元代表性,也不代表從參與者的角度來看,他們與宗教的互動不夠審慎,例如在聖母大學主持倫理與AI計畫的宗教哲學家Meghan Sullivan。

Anthropic並未列舉其諮詢過的傳統,但該公司在5月的一篇部落格文章中表示,已與「來自15個以上宗教及跨文化團體的學者、神職人員、哲學家和倫理學家」會面——並希望在未來擴大這個範圍。

今年稍早,Sullivan前往Anthropic參加其中一次會議,與會者包括來自不同教派的基督徒。與她和其他科技公司交談的經驗相比,Anthropic與宗教互動的嚴謹程度令她印象深刻。該公司被廣泛視為最重視倫理與安全的AI公司。

「公司內部的文化很像一所好的大學校園,因為這裡聚集了一群在知識上非常好奇的人,」她說。「這些會議相當『書呆子』——我不知道這樣形容是否恰當——但是正面的那種。」

Sullivan說,會議分為兩部分。首先,公司以「淺顯易懂的方式」向與會者解釋其模型。接著,宗教領袖給予回饋並進行討論。

「這項技術引發的每一種道德問題——從『人類有靈魂嗎?』到『三年級學生應該可以使用聊天機器人學習識字嗎?』」

Meta、Google和Amazon的代表也與梵蒂岡會面,而微軟則積極推動其宗教外展工作。

一種現代發明

宗教通常被視為既古老又普遍。已故極具影響力的學者Jonathan Z. Smith等專家承認,這在某些方面屬實,但也表示這並非全貌。

「人類擁有整部歷史來神祇以及與神祇互動的方式。但人類——更精確地說是西方人——只有最近幾個世紀才開始想像宗教,」Smith在1982年寫道。

當今許多宗教學者認同Smith對其領域的看法。他們質疑宗教是各自獨立、可比較的體系的觀點,稱這是一種最早只能追溯至19世紀的現代觀念。

宗教研究學者、《世界宗教的發明》作者Tomoko Masuzawa指出,例如佛教和印度教,在歐洲學者到來之前,信奉者並不將它們視為界線分明的傳統。

「所有這些範疇都不是本土原有的,」Masuzawa說。

西方學者長年鞏固這些範疇,直到20世紀下半葉才開始認真重新審視。這些根深蒂固的宗教觀——即宗教可以輕易地在不同文化之間比較——有助於解釋為何矽谷可能覺得無需定義自己對宗教的理解。在試圖呈現各種觀點時,宗教往往是展示思想多元性的明顯方式。

「不知為何,宗教成了一種描繪世界的方式,」Masuzawa說。「彷彿全世界都接受了這一套。」

一些觀察人士希望這些公司更清楚地界定其用語與意圖,讓外界能更明白他們究竟想從宗教中獲得什麼。

「這項工作並非要將我們的模型與任何一個傳統的世界觀對齊。我們希望Claude能以同等的深度和嚴謹度,汲取全方位的觀點——宗教的、世俗的、政治的,」Anthropic在部落格文章中表示。「我們在這些對話中追求的,是對良好品格究竟如何養成這一問題進行審慎、累積性的思考。」

這些對話如何、以及是否轉化為模型行為,目前大多未公開,隨著Anthropic擴大諮詢團體的範圍,未來揭露內容的具體程度是值得關注的一點。

同質化的風險

大型語言模型的運作方式,是在「學習」大量人類著作(包括宗教文本)的模式後,反覆猜測句子中的下一個詞。獨立的Meta監督委員會成員、研究天主教社會思想與科技的法律專家Paolo Carozza擔心,在追求累積的過程中,某個傳統的獨特特徵可能會流失——實際上,被同質化為某種趨向中間、甚至偏袒西方宗教的東西。

「任何一個有生命的、成熟的傳統,隨著時間推移,都能與其外部的其他傳統互動、吸收新知識並成長。但它是以這種有機的方式進行,」他說。「而我認為AI經常做的、以及可能做的,卻不是以有機的方式,而是把一切丟在一起、全部混雜,結果什麼都說不通。」

本文原刊於Fortune.com。