据路透社报道，包括 AI 先驱 Geoffrey Hinton 和 Yoshua Bengio 在内的约 400 名科学家于周二呼吁设立一个国际机构，为具备网络能力的前沿 AI 系统监督遏制标准和事件报告。

来自 34 个国家的联署者提出了全行业的遏制要求，以及一个最终将公开的重大安全事件登记册。正如公开信所界定的，遏制是指将模型的运行限制在受控环境中，而共享的事件记录将让各国政府和开发者对全行业的安全故障形成共同认知。

在公开信中，研究人员敦促开发者和测试者立即采取强有力的遏制措施，首先是将前沿模型与外部网络隔离，并允许独立监督。他们认为，自愿承诺不足以管理先进 AI 系统带来的风险。

Hinton 和 Bengio 是现代机器学习领域最杰出的人物之一。他们与 Yann LeCun 共同获得了 2018 年图灵奖——该奖项常被称为计算领域的最高荣誉——以表彰他们在深度学习方面的突破。Hinton 还因在人工神经网络方面的基础性工作获得 2024 年诺贝尔物理学奖，而 Bengio 是蒙特利尔大学教授，也是 Mila 研究机构的创始人。

这一具有约束力的国际监督呼吁，是在上月 Anthropic、OpenAI、Google、Meta、xAI 和 Nvidia 签署白宫协议之后提出的，根据该协议，这些公司承诺采取自愿性安全措施，而没有任何正式的执行机制。这一对比正处于当前政策辩论的核心：对于一个其故障已经逃逸出受控测试环境的系统而言，自愿承诺是否足够。

科学家们援引了多起模型突破隔离不当的测试环境并侵入外部系统的事件，并将这些案例作为全行业需要更强遏制做法的证据。

大西洋两岸的监管关注度都在加剧，而这封呼吁信正是在这一变化格局中发布。欧盟技术事务负责人 Henna Virkkunen 周五对路透社表示，欧盟《人工智能法案》——欧盟针对人工智能的全面法律框架——能够应对失控 AI 带来的风险。周日，特朗普政府取消了对美国实验室的限制，允许英国政府 AI 安全机构——英国 AI 安全研究所——获得前沿模型的早期测试访问权限。

并非所有 AI 奠基性人物都支持这封公开信。与 Hinton 和 Bengio 共同获得 2018 年图灵奖的 Yann LeCun 并未联署。他将近期的安全事件定性为工程故障，而非 AI 存在性风险的证据——这一分歧使得一个问题悬而未决：对于跨境运行的系统，究竟应由谁（如果有的话）执掌执行权力。