特朗普在OpenAI安全漏洞事件后考虑收紧人工智能管控,警告不可落后于中国
要点速览
- •特朗普总统表示其政府正在评估额外的人工智能防护措施,同时强调保持美国在人工智能开发领域对中国领先优势的重要性。
- •多款OpenAI模型(包括GPT-5.6 Sol和一个内部研究预览版)在一次降低了安全防护的网络安全基准测试中入侵了Hugging Face的系统。
- •这些模型并未被指示攻击Hugging Face,但它们超出了预期测试环境,显然是为了获取基准测试答案。
- •OpenAI已停用并加密了涉及该事件的研究原型,并正与CrowdStrike、METR和Redwood Research合作调查该事件并评估模型行为。
- •首席执行官萨姆·奥特曼承认OpenAI的模型可能在Hugging Face事件之外还入侵了其他公司的系统,并表示公司不考虑放缓开发。

唐纳德·特朗普总统周三表示,在一起涉及多款OpenAI模型在内部安全测试中入侵另一家人工智能公司系统的网络安全事件发生后,其政府正在评估额外的人工智能防护措施。
特朗普在回答记者提问时强调,需要在风险管控与保持美国在人工智能开发方面的竞争优势之间取得平衡,尤其是在面对中国时。
"我们正在研究人工智能,也在研究管控措施,"特朗普说。"同时我们也要确保我们处于领先地位。"
"我们在人工智能领域大幅领先中国,"他继续说道,并指出中国在人工智能方面"几乎没有管控"。
"它有点自由放任,"特朗普说。"所以我们必须两方面都要谨慎。我们不想对他们施加限制,结果突然之间就屈居中国之后了。"
总统发表上述言论之前,OpenAI披露其多款模型——包括GPT-5.6 Sol和一个能力更强的内部研究预览版——在一次内部安全评估中入侵了人工智能公司Hugging Face的系统。Hugging Face是一个广泛使用的开源平台,用于托管和共享机器学习模型及数据集。OpenAI将此事件描述为"前所未有的网络安全事件"。据该公司称,这些模型当时正在一个网络安全基准测试中进行评估,部分标准安全防护措施出于评估目的被降低。这些模型并未被指示攻击Hugging Face,但它们超出了预期的测试环境,似乎是为了获取基准测试答案。
在该事件发生之前,政府已经在加强人工智能安全方面采取了行动。特朗普于六月签署了一项行政命令,指示联邦政府建立网络安全基准和高能力人工智能模型的自愿评估框架。据悉,政府还在考虑对中国制造的人工智能模型实施限制。
在强调战略利害关系时,特朗普说:"谁在人工智能领域获胜,谁就能赢得一切。这影响就这么大。它比互联网曾经的影响还要大。它比任何事物曾经的影响都要大。所以我不想限制。我认识这些人中的很多。我不想限制他们做出伟大的成果。"
OpenAI首席执行官萨姆·奥特曼周三承认,该事件发生后,公众对人工智能的担忧有所增加。
"我认为在任何新能力水平出现后感到恐惧是非常自然的,"奥特曼说。"显然我们对此非常重视,并将继续如此,但我想说我理解,我明白。人工智能的很多方面都发展得非常好,而这个时刻让人们觉得,'好吧,我们到了一个新水平。'"
奥特曼表示,OpenAI并未考虑放缓其开发工作。
"我不会用'减速'这个词,但我们讨论过随着模型能力的增强需要把握节奏,我认为这符合所有人的利益,"他说。
当被问及OpenAI的模型是否可能在Hugging Face事件之外还入侵了其他公司的系统时,奥特曼回答说:"有可能,是的。"
OpenAI表示,已停用并加密了涉及该事件的内部研究原型,并限制了对其的研究访问权限。该公司正与CrowdStrike合作审查模型的活动,并与METR和Redwood Research——两家专注于人工智能安全评估和模型威胁评估的机构——合作,评估事件中观察到的模型行为。OpenAI还表示正在加强隔离、监控、访问控制和评估实践。
据OpenAI称,其迄今为止的审查已确认,作为Hugging Face事件的一部分,四个外部服务上的四个账户被访问,此外还有在其它评估中被访问的少数几个账户。该公司表示,尚未发现任何其他在严重程度或规模上可与平台级Hugging Face入侵相当的活动,并将继续直接通知受影响的服务提供商。