随着构建更强大人工智能的竞赛加速，一些行业领先公司正在努力应对一个远早于计算时代的问题：如何教机器分辨善恶。它们的答案，越来越多地指向宗教。

“这些问题不是实验室能够回答的，”Anthropic联合创始人Chris Olah今年早些时候在梵蒂冈发布教皇利奥十四世关于人工智能的通谕时表示。“这些问题是像你们这样的传统传承了数千年的命题。”

然而，在这次备受讨论的转向信仰的潮流中，这些科技公司究竟如何看待宗教——以及或许更重要的是，它们希望从中获得什么——却几乎没有受到公众审视。

在高管们对人工智能的潜在破坏力发出警告、并就是否需要构建道德上良善的模型展开辩论之际，他们正越来越多地寻求哲学家和宗教领袖的意见。这些咨询属于业界所称的“对齐”这一更广泛的技术项目——即塑造模型行为以反映人类价值观——该项目日益吸纳计算机科学之外的学科。这些高管的理念大致如下：在对该技术的担忧（无论有据还是无据）在文化中四处蔓延之际，宗教可以帮助人工智能在道德上向善。由于这些公司不受任何特定宗教约束，其目标往往相当宽泛——即汇总各种道德观念，为其模型提供参考。

“我认为ChatGPT应该反映人类道德观点的加权平均值，或类似的什么东西，”OpenAI首席执行官Sam Altman去年表示。

但专家和信众都警告说，这种想法未能正视不同传统和世界观之间常常相互矛盾的事实。简而言之，他们说，宗教并不是这样运作的。其利害关系不仅是哲学上的，也是现实层面的：模型所吸收的任何道德框架，最终都会体现在它给用户的回答中，包括在咨询讨论本身所辩论的课堂场景中——例如让聊天机器人用于读写教育。

将信仰视为规则手册的观念

密歇根大学人类学家Webb Keane认为，几十年来，学者们一直反对一种普遍观点，即宗教是一套可以脱离信众“混乱、实际、临时应变”的生活方式的规则或原则。宗教可以与文化、政治相分离的观念根深蒂固，尽管它在许多方面渗透于两者之中。一些人担心，当人工智能公司请宗教领袖回答伦理问题时，将进一步延续一种忽视教义、仪式和人际关系重要性的宗教理论。

Keane认为，核心问题在于：如果你假设宗教整体上能提供一套独特且可提取的道德原则，那么用它来训练人工智能就有可能优先某些传统并扭曲其他传统——尤其是那些并不把自己主要视为伦理体系的信仰。

“有一种非常传统的思维方式，把宗教当作一本规则手册，”他说。“这无疑与经书宗教紧密相关，而归根结底，这些经书宗教其实就是亚伯拉罕诸教。”

Anthropic会议内幕

这并不是说这些咨询缺乏多元代表性，也不是说从参与者角度来看，它们与宗教的接触不够认真——例如在圣母大学领导与人工智能项目的宗教哲学家Meghan Sullivan。

Anthropic尚未列举其咨询过的传统，但该公司在5月的一篇博客文章中表示，他们已与“来自15个以上宗教和跨文化团体的学者、神职人员、哲学家和伦理学者”会面，并希望在未来扩大这一范围。

今年早些时候，Sullivan前往Anthropic参加了其中一次会议，与会者包括来自不同教派的基督徒。与她与其他科技公司进行的对话相比，她对Anthropic与宗教接触的严谨程度印象深刻。该公司被普遍视为最重视伦理与安全的人工智能公司。

“公司内部的文化很像一所好的大学校园，那里聚集了一批在知识上非常好奇的人，”她说。“这些会议相当‘书呆子气’——我不知道这样说是否恰当——但是褒义上的。”

Sullivan说，会议分为两个部分。首先，公司以“通俗的语言”向与会者解释其模型。随后，宗教领袖给出反馈并进行讨论。

“这项技术引发的每一种道德问题——从‘人类有灵魂吗？’到‘三年级学生是否应该能够使用聊天机器人进行读写教育？’”

Meta、谷歌和亚马逊的代表也会晤过梵蒂冈，而微软则一直积极开展宗教外联。

一个现代发明

宗教通常被认为既古老又普遍。已故著名学者Jonathan Z. Smith等专家承认这在某种程度上属实，但表示这并非全貌。

“人类拥有整部历史去想象神灵以及与之互动的方式。但人类——更准确地说是西方人——只有最近几个世纪才去想象‘宗教’，”Smith在1982年写道。

如今许多宗教学者认同Smith对其领域的看法。他们质疑各宗教构成一套独特、可比较的体系的观点，称这是一种现代观念，最早只能追溯到19世纪。

例如，宗教学者、《世界宗教的发明》一书的作者Tomoko Masuzawa指出，在欧洲学者到来之前，佛教和印度教的信奉者并不认为它们是边界清晰的传统。

“所有这些类别都不是本土固有的，”Masuzawa说。

西方学术界多年来固化了这些类别，直到20世纪后半叶才开始认真重新审视它们。这些根深蒂固的宗教观念——即宗教可以轻易跨文化比较——有助于解释为什么硅谷可能觉得没有必要定义自己对宗教的理解。在努力代表各种观点的过程中，宗教往往是展示思想多样性的显而易见的方式。

“不知为何，宗教成了描绘世界的一种方式，”Masuzawa说。“就好像全世界都某种程度上接受了这一点。”

一些观察人士希望这些公司进一步明确其术语和意图，以便外界更好地了解它们究竟希望从宗教中获得什么。

“这项工作不是要让我们的模型与任何一个传统的世界观保持一致。我们希望Claude能够以同等的深度和严谨性，汲取全方位的观点——宗教的、世俗的、政治的，”Anthropic在博客文章中表示。“我们在这些对话中所追求的，是关于良好品格究竟如何形成的审慎而持续的思考。”

这些对话如何、以及是否转化为模型行为，目前基本未公开，这使得未来披露内容的具体性成为Anthropic扩大咨询团体范围时值得关注的一点。

同质化的风险

大语言模型的工作方式，是在“学习”海量人类著作（包括宗教文本）的模式后，反复猜测句子中的下一个词。独立Meta监督委员会成员、研究天主教社会思想与技术的法律专家Paolo Carozza担心，在这种追求累积的过程中，某一传统的标志性特征可能会丢失——实际上是被同质化为某种趋向中间、甚至偏向西方宗教的东西。

“任何有生命的、成熟的传统，随着时间推移都能够与外部传统互动、吸收新知识并成长。但它是以一种有机的方式做到这一点的，”他说。“而人工智能我认为经常做的、并且有可能做的，并不是以有机的方式，而是把一切扔到一起、成一团，结果什么也解释不清。”

本文最初发表于Fortune.com。