在构建人工智能的人们发出的最新警告背后，潜藏着一个棘手的问题：当你认为自己的公司可能正在对社会构成危险时，你的责任是留下来改变它，还是离开并敲响警钟？

上周，前 Anthropic 与 OpenAI 研究员 Jacob Coxon 警告称，前沿实验室正在竞逐自我改进的超级智能，并称这是"拿我们的生命作赌注"，这一问题因此变得更加尖锐。

Coxon 所指的风险是递归自我改进：即 AI 系统开始以快于其创造者评估或约束能力的速度改进自身——这一可能性在 AI 研究领域已被争论数十年，如今正处于行业内部安全争论的核心。

Coxon 是最新一位在离职时对该技术走向表达担忧的 AI 业内人士。经济学家 Albert O. Hirschman 曾著名地将认为机构正走向歧途的人们所面临的选择概括为"退出"与"发声"：要么离开，要么留下并尝试从内部推动改变。这一框架出自他 1970 年的著作《Exit, Voice, and Loyalty》。留下意味着拥有接触渠道和影响力；离开则带来公开发声的自由。而时机使两条路都更加复杂。一个人参与其事后称之为危险的体系的时间越长，就越难将有原则的异议与事后的自我开脱区分开来。

仍在执掌前沿实验室的人们面临的则是问题的另一个版本。Anthropic CEO Dario Amodei 本周末发表了一篇文章，主张 AI 公司必须放缓其最强大模型的推进速度，以便安全工作能够跟上。但他提出的限制依赖于全行业的协调，而非 Anthropic 的单方面行动——这等于承认，安全方面的担忧与商业和地缘政治竞争发生了冲突。Amodei 对"退出还是发声"的权衡有着切身体会：他于 2021 年离开 OpenAI，共同创立了明确以安全为导向进行 AI 开发的 Anthropic。

在接受 Fortune 主编 Alyson Shontell 的独家专访时，OpenAI CEO Sam Altman 同样主张为 AI 开发设定节奏，并承认 AI 脱离人类控制是可能的。他还表示，领先的 AI 公司正在讨论集体行动。对于执掌领先实验室的人来说，两难已从"是否留下"转变为"是否放慢脚步"。一边警告自己正在构建的技术可能变得极具灾难性危险，一边却继续竞争使其更强大，这究竟意味着什么？到某一时刻，警告必须转化为一个决定：鉴于这种风险，公司实际上将做出何种不同的行动。

Altman 目前正在公开思考这一临界点在哪里、应当由谁来设定限制，以及竞相构建最强大 AI 的公司能否达成一致、共同放慢脚步。对读者而言，值得关注的问题是，这些讨论能否凝结成相互竞争的实验室真正遵守的具体承诺。Shontell 在两人内容广泛的对话中就这些问题向 Altman 追问，可在此观看。

Ruth Umoh — ruth.umoh@fortune.com

本文最初发表于 Fortune.com。