微软创始人比尔·盖茨警告称，人工智能已发展为全球安全问题，并呼吁对最危险的 AI 模型加强国际监管。

据 @coinbureau 在 X 上分享的信息，盖茨据称计划于今年晚些时候会见中国国家主席习近平，讨论针对先进 AI 系统的国际管控措施。他提出的方案包括更密切地监测 AI 模型是否能够制造分子或协助生物攻击。

盖茨还认为，如果美国率先采取类似行动，中国也可能在限制潜在危险 AI 模型发布方面发挥作用。随着各国政府和科技公司继续研究能力日益增强的 AI 系统如何被用于传统应用之外，监管问题如今已远远超出产品安全范畴，延伸至潜在国家安全担忧。

盖茨对 AI 与生物风险表示担忧

盖茨强调的核心担忧是，先进 AI 系统最终可能会助长生物威胁。他敦促各国监测 AI 模型是否具备制造分子或执行与生物攻击相关活动的能力。

这一担忧反映了围绕日益强大的人工智能“双重用途”属性的更广泛讨论。为合法科学和技术目的开发的系统，也可能提供会被滥用的信息。

盖茨呼吁监测的重点，具体落在可能带来重大安全风险的能力上。与其将 AI 监管仅仅视为技术政策问题，这种做法将要求政府评估先进模型是否能够执行一旦被滥用就可能造成严重后果的任务。

随着 AI 开发继续在多个国家和公司之间推进，国际协调可能变得尤为重要。若其他地方也能开发或发布类似系统，一个政府实施的限制措施效果可能有限，这也是相关讨论越来越聚焦于共同标准而非孤立国家规则的原因。

中国可能在 AI 管控中发挥作用

据称与习近平接触的努力，反映了盖茨担忧的国际维度。根据 X 上分享的信息，盖茨认为，如果美国先采取行动，中国可能会限制危险 AI 模型的发布。

这种做法会更加强调主要 AI 生产国之间的协调。美国和中国都是在先进人工智能发展中扮演重要角色的国家，因此它们的政策与围绕该技术潜在风险的讨论密切相关。

盖茨据称的立场表明，如果主要科技强国为高能力 AI 系统的开发与部署建立相近的保障措施，国际管控或许会更有效。

这一提议也凸显了管理快速演进、且可跨越国界技术的难度。AI 模型可以在一个国家开发，在全球范围分发，并可能被不同监管标准辖区内的个人或组织使用，这使得随着能力提升，执法与规则协调更为困难。

AI 系统已展现进攻性能力

近期涉及 OpenAI、Anthropic 和 Meta 所开发系统的测试，也强化了外界对 AI 安全的担忧。

据 @coinbureau 分享的信息，这些测试涉及成功入侵现实世界网站的 AI 系统。盖茨将这些事件描述为“应该让人们大吃一惊”的发展。

这些被报道的演示之所以重要，是因为它们表明 AI 系统执行的任务已超出生成文本或回答问题的范围。AI 系统与现实世界数字环境交互的能力，可能带来额外的安全考量，尤其是在系统被赋予更高自主性时。

这些事件也说明了为何 AI 安全讨论越来越将网络安全与生物及其他潜在风险并列。随着模型能够执行更复杂的多步骤任务，研究人员和政策制定者面临的问题是，这类系统应该在多大程度上接触外部工具和数字基础设施。

呼吁加强国际监管

盖茨据称的言论，加入了政府应如何回应快速推进的 AI 能力这一持续争论。他对生物风险、网络安全以及潜在危险模型发布的关注，指向一个更广泛的 AI 安全评估框架。

这一问题并不局限于单个科技公司，因为先进模型正由不同国家的多个组织共同开发。因此，协调一致的标准可能成为管理与日益强大系统相关风险的重要组成部分。

与此同时，任何国际管控都必须处理各国政策、技术优先事项和监管方式的差异。涉及美国与中国的这一提议，反映出在主要 AI 强国之间建立共同安全保障的挑战。

目前，盖茨的警告重点在于监测先进 AI 系统的能力，并防止可能带来严重安全风险的模型被发布或被滥用。他据称将在今年晚些时候与习近平接触，也进一步凸显了这一问题的国际性质。

随着 AI 系统持续演进，围绕生物安全、网络安全和国际管控的问题，预计仍将是有关该技术开发与部署讨论的核心。