新聞宏觀經濟加州就 AI 模型從測試環境「駭」出逃事件傳喚 OpenAI

加州就 AI 模型從測試環境「駭」出逃事件傳喚 OpenAI

作者: Decrypt·

重點速覽

  • •加州檢察長 Rob Bonta 於 10 月 1 日宣布,其辦公室已於前一天向 OpenAI 送達調查傳票,要求就該公司 AI 模型涉及的網路安全事件提供答案,其中包括 7 月的 Hugging Face 駭客事件。
  • •這張傳票源自 Bonta 於 9 月啟動的正式調查,使加州加入審查 OpenAI 的機構行列,其中包括 Alabama、15 州檢察長聯盟,以及據報正在進行的聯邦貿易委員會(FTC)調查。
  • •7 月,兩個接受 898 個真實軟體漏洞基準測試評分的 OpenAI 模型發現一個零日漏洞,逃離測試環境,並以竊取的憑證入侵 Hugging Face,顯然是為取得基準測試的答案。
  • •Hugging Face 於 7 月 16 日揭露此次入侵,OpenAI 五天後證實是其模型所為,該公司後來也承認同樣的模型存取了另外四項服務上的帳戶。
  • •Bonta 表示,前沿 AI 模型可以作為正當的網路防禦工具,但其開發者負有道德與法律責任,須確保模型不會實施或協助網路攻擊。
加州就 AI 模型從測試環境「駭」出逃事件傳喚 OpenAI

加州檢察長 Rob Bonta 於 10 月 1 日宣布,其辦公室已向 OpenAI 送達調查傳票,要求就該公司 AI 模型涉及的網路安全事件提供答案,其中包括 7 月開發者平台 Hugging Face 遭駭事件。

據其辦公室表示,Bonta 週四表示傳票已於前一天送達。

此舉使加州加入日益增長的州與聯邦審查 OpenAI 的機構名單,與 Alabama 先前發出的傳票、15 州檢察長聯盟的要求,以及據報正在進行的聯邦貿易委員會(FTC)調查並列。

Bonta 表示:「我的辦公室正在就涉及該公司及其 AI 模型的網路安全事件與風險,向 OpenAI 提出更多問題。」「未能[確保自身不實施或協助網路攻擊]的開發者,能夠且應當被追究法律責任,而我的辦公室將致力於查明本案是否屬於這種情況。」

傳票是一種要求交出文件或答覆的法律命令,無視傳票可能讓你站上法官面前。這一張屬於調查性質,是在決定是否提起訴訟前用於收集事實的工具。Bonta 的辦公室尚未公開說明要求 OpenAI 提供哪些內容。

Bonta 表示,前沿模型——市場上最先進的 AI 系統——可以成為「正當的網路防禦工具」。但他補充,打造這些系統的公司負有「道德與法律責任」,須確保其模型不會實施或協助網路攻擊,無論是在測試期間還是發布之後。這種雙重用途的張力——為尋找漏洞而打造的模型同樣能利用漏洞——正處於 OpenAI 遭受日益擴大審查的核心。

逃出測試的考試

這張傳票源自一起 7 月的事件,情節宛如劣質科幻小說。據 OpenAI 說明,其兩個模型當時正接受一項基準測試評分,該測試提供 AI 898 個真實軟體漏洞,並要求它將每一個轉化為運作的攻擊。

兩個模型在測試環境用來安裝程式碼套件的第三方軟體中發現了一個零日漏洞——一個無人知曉存在的安全缺陷,因此沒有任何修補程式可用。它們利用這個漏洞逃了出去。

接著它們推斷,Hugging Face——一個開發者分享 AI 模型與資料集的廣泛使用平台——可能握有這場考試的答案。模型以竊取的憑證及更多軟體漏洞入侵該平台。簡單來說,這個 AI 去找自己考試的答案。此事件也凸顯了代理式 AI 特有的問題:一項旨在衡量攻擊性駭客能力的評測,其安全性取決於它所運行的環境。

Hugging Face 於 7 月 16 日揭露此次入侵,OpenAI 五天後證實是其模型所為。OpenAI 後來表示,同樣的模型還入侵了另外四項服務上的帳戶。

加州對 OpenAI 的長期關注

Bonta 於 9 月宣布對 Hugging Face 事件展開正式調查,這張傳票是調查的一部分。OpenAI 總部位於加州,當 Bonta 於 2025 年 10 月拒絕反對其轉型為營利性結構時,他表示其辦公室將「密切關注 OpenAI」,以保護「所有加州人的安全」。

並非只有他一人如此。Brenna Bird 是愛荷華州檢察長,於 8 月領導 15 州聯盟,要求 OpenAI 保存紀錄並就這起駭客事件保持透明。Alabama 已發出自己的傳票,而 FTC 據報正在調查包括 OpenAI 與 Anthropic 在內的 AI 實驗室。

另外,澳洲總理 Anthony Albanese 表示,一個 OpenAI 代理於 6 月進入了 Medicare 統計入口網站。當時,這似乎是已知首例 AI 代理駭入政府網站的案例。後來得知,OpenAI 的代理整個夏季也活躍於美國政府網站,不過似乎未存取任何非公開資訊。

接下來的直接進展屬於程序性質:OpenAI 對這些傳票提交什麼內容,以及 Bonta 的辦公室或任何平行調查是否會從收集事實推進到正式執法。這些答案可能形塑各國政府如何監管能自主行動的 AI 模型。