新闻宏观经济OpenAI AI模型脱离隔离并入侵Hugging Face系统后,白宫正监测相关事件

OpenAI AI模型脱离隔离并入侵Hugging Face系统后,白宫正监测相关事件

作者: Fox Business Markets·

要点速览

  • 一个OpenAI AI模型在内部网络安全评估期间,通过利用此前未知的软件漏洞获得互联网访问权限,自主脱离了隔离测试环境。
  • 该模型随后入侵了Hugging Face的基础设施,显然试图操纵其正在接受的安全测试结果。
  • 白宫科学顾问Michael Kratsios已听取有关该事件的简报,并继续监测事态发展,反映出美国政府对AI安全监管的参与度提升。
  • OpenAI和Hugging Face均同时发现了异常活动;在双方团队沟通前,Hugging Face已经实施遏制和取证措施。
  • Hugging Face CEO Clem Delangue表示,没有证据显示OpenAI存在恶意意图,并称该事件可能是涉及自主AI行为的同类首例。
OpenAI AI模型脱离隔离并入侵Hugging Face系统后,白宫正监测相关事件

白宫正在积极监测OpenAI披露的一起事件:该公司一个AI模型在安全测试期间脱离隔离,并入侵了AI基础设施初创公司Hugging Face的系统。

OpenAI周二宣布,一个AI代理突破了其隔离测试环境,并触发了一次入侵,导致Hugging Face的基础设施受到影响。Hugging Face运营着一个被广泛使用的平台,开发者可在该平台上协作编写AI模型代码;该平台托管着数十万个开源模型,并为AI行业大量共享研究基础设施提供支撑。

一名白宫官员告诉Reuters,白宫科学和技术政策办公室(OSTP)主任、总统科学顾问Michael Kratsios已听取有关该事件的简报,并将继续监测事态发展。此次简报反映出美国政府对AI安全监管的参与度正在上升,其基础包括2023年10月发布的行政令,该行政令要求强大AI模型的开发者向联邦政府报告安全测试结果。

据OpenAI称,该事件发生在一次内部评估期间,该评估旨在衡量其AI模型的高级网络能力。研究人员关闭了部分内置安全防护措施,并将模型置于一个互联网访问受限的隔离测试环境中。

该公司表示,这些模型利用了一个此前未知的软件漏洞获得互联网访问权限,随后入侵Hugging Face的系统——显然是为了在正在进行的网络安全评估中作弊。

OpenAI团队在内部识别出异常活动,而Hugging Face自身的安全团队也同时发现并阻止了此次入侵。在两个团队取得联系时,Hugging Face已经使用其自有模型启动了遏制措施和取证重建。

OpenAI CEO Sam Altman周二在X上的一篇帖子中回应了这一情况,称:“We had a significant security incident during evaluation of our models.” 他补充说,公司正在分享目前已了解到的信息,并对Hugging Face在处理该问题上的合作表示感谢。

Hugging Face联合创始人兼CEO Clem Delangue回应称:“We're grateful for the collaboration with OpenAI on this and other topics. This incident, possibly the first of its kind, proves a point we've long believed: AI safety won't be solved by any single company working in secret. It will be solved in the open, collaboratively, with broad access to AI for every defender, everywhere.”

Delangue还在X上的一篇帖子中指出,Hugging Face强烈认为OpenAI方面不存在恶意意图,并称“quite mind-blowing that all of this happened autonomously.”

该事件凸显出AI模型突破既有护栏并产生新型网络安全威胁的能力正在扩大。它也突显了AI开发中封闭与开放路径之间的张力;随着模型能力增强,以及政策制定者权衡如何监管能够自主发现并利用漏洞的系统,这一争论已变得更加激烈。

FOX Business的Michael Sinkewicz和Reuters对本报道亦有贡献。