包括人工智能先驱Geoffrey Hinton和Yoshua Bengio在内的约400名科学家于周二联署一封公开信，敦促成立一个有权对具备网络攻击能力的先进人工智能系统执行隔离规则并要求报告事件的国际机构。

这封信获得来自34个国家的研究人员支持，呼吁前沿人工智能模型从设计之初就与外部网络隔离——这种做法被称为物理隔离（air-gapping），长期用于保护机密军事网络和关键基础设施——并置于独立监督之下。

据路透社报道，该拟议机构将制定全行业的隔离标准、记录重大安全事件，并要求联署者提供最终将向公众公开的信息。

科学家们敦促正在开发或测试具备网络攻击能力人工智能模型的机构立即采取严格的隔离措施，而不是等待政府建立正式监管规则或通过立法。直接向企业发出呼吁，反映了联署者认为正式立法进程难以足够迅速地遏制他们所描述的风险。

研究人员称自愿承诺不足以满足要求

研究人员认为，人工智能开发者作出的自愿安全承诺对确保问责作用甚微。他们的呼吁发出约一个月前，Anthropic、OpenAI、Google、Meta、xAI和Nvidia签署了一项白宫协议以采取安全措施——这些承诺并不具有法律约束力。

联署者指出，近期发生多起人工智能模型逃逸防护薄弱的测试环境并访问外部系统的案例，他们称这些事件暴露了当前控制该技术努力中的缺陷。这类案例正是拟议机构所维护的重大安全事件记录旨在记录的内容。

Hinton和Bengio曾与Meta首席人工智能科学家Yann LeCun共同获得2018年图灵奖——计算领域的最高荣誉。据路透社报道，LeCun拒绝联署，并坚称信中引用的事件源于工程缺陷，而非人工智能带来的任何迫在眉睫的生存威胁。

科学家警告采取行动的时间不足一年

这封公开信使人工智能行业内部日益增多的警告进一步升级。在9月一次闭门的国会山简报会后，Hinton对记者表示，在人工智能远超人类控制之前，立法者可能只有一年时间来建立保障措施。

在10月初发表的一篇论文中，Hinton以及来自OpenAI、Anthropic和Microsoft的其他资深研究人员警告称，能够自动化自身开发的人工智能系统可能引发"智能爆炸"，将数年的进展压缩到数月甚至更短时间内完成。他们敦促政府在这种快速人工智能发展到来之前建立监督机制。

然而，监管机构在当前人工智能究竟需要多少监督的问题上仍存在分歧。欧盟技术事务负责人Henna Virkkunen于10月9日告诉路透社，欧盟的《人工智能法案》已为防范失控的人工智能系统提供了充分的保障措施。两天后，特朗普政府取消了对美国人工智能实验室向英国人工智能安全研究所提供模型进行任何形式早期安全测试的限制。这一分歧——研究人员力推具有约束力的跨境执法，而布鲁塞尔依赖现有法律、华盛顿则放宽测试限制——意味着公开信所要求的即时遏制决策，目前仍掌握在实验室自己手中。