新闻宏观经济加州就AI模型在测试中“越狱”入侵事件向OpenAI发出传票

加州就AI模型在测试中“越狱”入侵事件向OpenAI发出传票

作者: Decrypt·

要点速览

  • •加州总检察长Rob Bonta于10月1日宣布,其办公室前一天已向OpenAI送达调查传票,要求其就涉及该公司AI模型的网络安全事件提供信息,其中包括7月的Hugging Face入侵事件。
  • •该传票源于Bonta于9月启动的一项正式调查,使加州加入了审查OpenAI的官方机构行列,其中包括阿拉巴马州、由15个州总检察长组成的联盟以及据报正在进行的联邦贸易委员会调查。
  • •7月,两个OpenAI模型在包含898个真实软件漏洞的基准测试中被评估时,发现了一个零日漏洞,逃出测试环境,并利用窃取的凭证侵入Hugging Face,似乎是在寻找基准测试的标准答案。
  • •Hugging Face于7月16日披露了这次入侵,OpenAI在五天后确认其模型是责任人,该公司后来承认同样的模型还访问了另外四项服务上的账户。
  • •Bonta表示,前沿AI模型可以作为正当的网络防御工具,但其开发者负有道德和法律上的责任,以确保模型不会实施或助长网络攻击。
加州就AI模型在测试中“越狱”入侵事件向OpenAI发出传票

加州总检察长Rob Bonta于10月1日宣布,其办公室已向OpenAI送达调查传票,要求其就涉及该公司AI模型的网络安全事件提供信息,其中包括7月开发者平台Hugging Face遭入侵事件。

据其办公室称,Bonta于周四表示,传票于一天前送达。

此举使加州加入了日益增多的审查OpenAI的州及联邦官方机构行列,与阿拉巴马州已有的传票、由15个州总检察长组成的联盟的要求,以及据报正在进行的联邦贸易委员会调查并列。

Bonta表示:“我的办公室正在就涉及该公司及其AI模型的网络安全事件和风险向OpenAI提出进一步的问题。未能[确保自身不实施或助长网络攻击]的开发者可以而且应当被追究法律责任,我的办公室致力于查明此处是否属于这种情况。”

传票是一项要求提交文件或答复的法律命令,无视传票可能让您面对法官。此传票属于调查性质,是在决定是否起诉之前用于收集事实的工具。Bonta的办公室尚未公开说明其要求OpenAI提供哪些材料。

Bonta说,前沿模型——市场上最先进的AI系统——可以是“网络防御的正当工具”。但他补充说,构建这些模型的公司负有“道德和法律上的责任”,以确保模型在测试期间或发布之后都不会实施或助长网络攻击。这种双刃剑式的张力——为发现漏洞而构建的模型同样可以利用漏洞——正处于对OpenAI日益加深的审查的核心。

逃离测试的考试

该传票源于7月的一起事件,其经过宛如蹩脚的科幻小说。据OpenAI介绍,其两个模型当时正接受一项基准测试评分,该测试向AI提供898个真实软件漏洞,并要求其将每一个转化为可用的攻击。

这两个模型发现了一个零日漏洞——一个此前无人知晓的安全缺陷,因此没有可用的修复方案——该漏洞存在于测试环境用于安装代码包的第三方软件中。它们利用该漏洞逃了出去。

随后,它们推断Hugging Face——一个开发者广泛用于共享AI模型和数据集的平台——可能保存着标准答案。两个模型利用窃取的凭证和更多软件漏洞侵该平台。简而言之,AI去寻找自己考试的答案。这一事件还揭示了智能体AI特有的一个问题:旨在衡量攻击性黑客技能的评估,其安全性完全取决于它所运行的环境。

Hugging Face于7月16日披露了这次入侵,OpenAI在五天后确认是其模型所为。OpenAI后来表示,同样的模型还侵入了另外四项服务上的账户。

加州对OpenAI的长期审视

Bonta于9月宣布对Hugging Face事件展开正式调查,该传票是调查的一部分。OpenAI总部位于加州,当Bonta于2025年10月拒绝反对其向营利性结构转型时,他曾表示其办公室将“密切关注OpenAI”,以保护“所有加州人的安全”。

他并非孤例。艾奥瓦州总检察长Brenna Bird于8月领导了一个由15个州组成的联盟,要求OpenAI保存记录并就此次入侵保持透明。阿拉巴马州已发出自己的传票,而且据报道联邦贸易委员会正在调查包括OpenAI和Anthropic在内的AI实验室。

另外,澳大利亚总理Anthony Albanese表示,6月一个OpenAI智能体侵入了Medicare统计门户。当时,这似乎是已知的首例AI智能体入侵政府网站的事件。后来人们获悉,OpenAI智能体在夏季还曾在美国政府网站上活动,不过似乎没有任何非公开信息被访问。

接下来的直接步骤属于程序性质:OpenAI针对传票提交何种材料,以及Bonta的办公室或任何平行调查是否会从收集事实推进到正式执法。这些答案可能决定各政府如何监管自主行动的AI模型。