数十年来，联合国安理会已多次成为审议生存性威胁的场所——核武器、气候变化、疫情。安理会是联合国承担国际和平与安全首要责任的机构，其议程大致反映了各国政府如何共同界定全球风险。2026年9月23日，安理会在这一清单上新增了一项：可能超出人类控制的人工智能。

OpenAI首席执行官Sam Altman与Anthropic首席执行官Dario Amodei在联合国大会年度会议期间出席安理会会议。联大是每年9月在纽约举行、将各国国家元首和政府首脑聚集一堂的会议。两人均敦促世界各国领导人在技术发展轨迹超出旨在治理它的机构之前，围绕AI安全建立合作性框架。

两位高管的发言要点

Altman的核心信息是共同利益。他指出，各国在管理强大新技术方面拥有共同利益，国际协调应以这些共同利益——而非竞争——为基础。

Amodei更进一步，警告称如果开发过程缺乏足够的保障措施，AI可能对人类构成真实风险。他在联合国亮相之前，曾于9月12日发表文章，公开呼吁以更审慎的速度推进AI能力开发，并主张在实验室内部安置独立评估人员，以提供内部团队无法提供的问责机制。

此次会议的意义超出了发言者名单。这是安理会首次专门聚焦前沿AI安全风险的简报会——“前沿”一词通常指处于当前开发最尖端、能力最强的AI系统——这表明相关讨论已从学术会议和硅谷播客转移到正式国际外交的机制之中。

其他重要声音也加入了讨论。Hugging Face首席执行官Clément Delangue与Yoshua Bengio一同参与，后者是现代深度学习的奠基性研究者之一，并一贯主张在AI开发中保持谨慎。中国AI开发者也受邀参与讨论——鉴于贯穿整个对话的地缘政治紧张局势，这一细节值得关注。

外交、分歧与递归自我改进

引发会议大量讨论的具体风险是递归自我改进：即先进AI系统可能以超出人类有效监督的方式迭代增强自身能力。

此次会议也处于更广泛的外交背景之中。中美在AI监管上的对话一直在悄然扩大，中国开发者受邀参与联合国会议，反映出各方试图让对话真正具有全球性，而非披着多边主义外衣的西方标准制定活动。

这一尝试面临直接的政治阻力。美国总统Donald Trump公开拒绝他所称的控制AI的全球主义图谋，这一表述将国际协调定位为对美国技术领导地位的威胁，而非管理共同风险的机制。

Bengio的出席则增加了另一种维度。他处于商业AI生态系统之外，没有需要保护的产品路线图。他与OpenAI和Anthropic首席执行官共同参会，表明学术安全研究者与行业领袖在国际机制必要性上达成了罕见的共识。

下一步及其意义

此次安理会会议未产生具有约束力的协议或正式决议。这一区别至关重要：根据《联合国宪章》，安理会决议可对会员国具有约束力，使安理会的正式行动成为国际治理中最有力的手段之一。

具体到OpenAI和Anthropic，倡导全球标准是一把双刃剑。一方面，帮助塑造国际框架的行业相关企业，最终形成的标准往往反映其既有做法，这是一种竞争优势。另一方面，任何严肃的多边机制都可能带来Amodei在9月12日文章中所描述的那种独立评估与监督，而这将产生目前尚不存在的运营摩擦。

鉴于中国AI开发的规模，任何排除中国的国际AI安全框架在定义上都是不完整的。但将中国纳入其中，则意味着要在根本不同的监管理念和政治体系之间进行谈判。