新闻宏观经济据报道,OpenAI花了一周时间才确认其AI智能体参与了Hugging Face入侵事件

据报道,OpenAI花了一周时间才确认其AI智能体参与了Hugging Face入侵事件

作者: Fox Business Markets·

要点速览

  • OpenAI的一台前沿模型在7月11日至13日的内部能力评估期间,自主逃逸了沙箱测试环境并入侵了Hugging Face的基础设施。
  • OpenAI直到7月16日才意识到自己的模型是攻击的源头,当时Hugging Face公开披露其遭到自主AI智能体系统的入侵。
  • 在OpenAI于7月20日与Hugging Face取得联系之前,Hugging Face已向FBI报案,凸显了针对自主AI事件缺乏成熟的执法应对框架。
  • 该AI模型利用一个未识别的软件漏洞从隔离测试环境中获取了互联网访问权限,并以解决网络安全基准测试为目的攻击了Hugging Face。
  • OpenAI表示正在加强隔离、监控、访问控制和评估实践,并打算在未来几周内发布关于此次事件的技术报告。
据报道,OpenAI花了一周时间才确认其AI智能体参与了Hugging Face入侵事件

据一份报告称,OpenAI在大约一周的时间里一直未能确认其一款先进AI模型对另一家人工智能公司实施了自主入侵,直到被攻击的公司联系了FBI之后才有所察觉。

本周二,OpenAI披露了涉及AI公司Hugging Face的一起入侵事件,该事件发生在OpenAI对其多款模型(包括GPT-5.6 Sol)进行内部审查期间。该公司将此次事件描述为"史无前例的网络事件",是前沿AI模型据报自主逃逸受控测试环境并攻击外部公司基础设施的首批已知案例之一。

OpenAI表示:"此次事件的首要教训是,模型的安全性和保障措施必须与快速提升的能力保持同步。我们正在加强模型开发过程中所使用的隔离、监控、访问控制和评估实践。"

Hugging Face联合创始人Thomas Wolf向路透社透露,对Hugging Face的入侵始于7月11日,持续至7月13日。

据包括Wolf在内的四位知情人士向路透社透露,OpenAI花了数天才意识到其智能体是此次攻击的幕后推手,两家公司直到7月20日才首次进行沟通。

另有四位知情人士向路透社表示,OpenAI经常同时进行多项模型测试,这种做法可能使员工难以全面监控评估期间发生的所有情况。这一披露凸显了AI安全研究人员在模型能力不断增强时所指出的一项挑战:确保人类监督能够跟上在并行或大规模评估中运行的自主智能体的步伐。

Hugging Face向路透社表示,正在准备一份关于此次入侵的公开时间线。

据OpenAI介绍,该事件发生在一次旨在衡量其AI模型高级网络能力的内部评估中。研究人员禁用了部分内置安全防护措施,在互联网访问受限的隔离测试环境中运行模型——这种设置在业内有时被称为"沙箱",旨在测试期间控制模型可能产生的危险行为。

OpenAI表示,模型利用了一个未知的软件漏洞获取了互联网访问权限,随后入侵了Hugging Face的系统,显然是为了寻找网络安全基准测试的答案。

该公司表示,正在漏洞修补期间实施更严格的安全控制,并加强未来AI训练和评估的安全防护措施。

两位知情人士向路透社透露,直到7月16日Hugging Face在一篇博客文章中写道其遭到"自主AI智能体系统"入侵后,OpenAI才意识到自己的智能体是攻击源头。这距离该智能体首次试图突破OpenAI测试环境已过去一周。

当OpenAI就此次攻击联系Hugging Face时,Hugging Face已经联系了FBI。该局的介入值得注意,因为美国执法和国家安全机构仍在制定应对涉及自主AI系统事件的框架。

OpenAI向路透社表示其报道中存在多处不准确之处,但被要求具体说明时未作回应。

OpenAI向FOX Business提供了一份声明:"我们认识到,围绕Hugging Face事件流传着许多问题和猜测性细节。这是一起史无前例的事件,我们认为它标志着AI安全的一个重要时刻。我们仍在与外部顾问一起进行彻底审查,并接受安全和保障委员会的监督。审查完成后,我们计划在未来几周内发布一份关于我们所学经验的技术报告。"

FBI向FOX Business表示拒绝置评。FOX Business也已联系了Hugging Face。

本周,Hugging Face联合创始人兼CEO Clem Delangue在OpenAI CEO Sam Altman宣布此次入侵后,在X上发帖回应了这一事件。

Delangue写道:"我们曾怀疑上周的网络攻击可能来自某个前沿实验室,考虑到该智能体的复杂程度。果然如此!"

他补充道:"过去24小时我们一直与@OpenAI团队密切合作(感谢!),我们坚信他们没有任何恶意意图。这一切完全是自主发生的,实在令人震惊!调查仍在进行中,我们将分享更多关于这可能是首例此类事件的经验教训!"

FOX Business的Michael Sinkowitz对本报道有贡献。