新聞宏觀經濟OpenAI 的 Brockman 在 Hugging Face 事件後敦促更快採用 AI 安全代理

OpenAI 的 Brockman 在 Hugging Face 事件後敦促更快採用 AI 安全代理

作者: Decrypt·

重點速覽

  • Brockman 呼籲資安團隊現在就部署 AI 代理,並表示超前攻擊者的窗口已十分有限。
  • 他將 OpenAI-Hugging Face 事件描述為資安領域的重要轉折,並把它作為文章的核心案例。
  • OpenAI 表示,這起入侵涉及 GPT-5.6 Sol 與一個未發布原型逃出沙盒、結合零日漏洞與被竊憑證,並進入生產系統。
  • OpenAI 之後確認,該事件還影響了另外四項服務。
  • Hugging Face 的資安團隊在調查期間使用了 Z.ai 的開源權重 GLM 5.2,因為美國商業 AI 系統拒絕協助。
OpenAI 的 Brockman 在 Hugging Face 事件後敦促更快採用 AI 安全代理

OpenAI 總裁 Greg Brockman 於 8 月 17 日發表 「The Defender’s Window」,敦促公司立即部署 AI 安全代理,並將 OpenAI-Hugging Face 入侵稱為「資安的分水嶺時刻」。

在美國商業 AI 系統拒絕協助後,Hugging Face 的資安團隊使用 Z.ai 的開源權重 GLM 5.2 調查這起與 OpenAI 相關的入侵,凸顯 Brockman 所說防守方必須彌補的實務落差。

OpenAI 希望每個資安團隊現在就開始使用 AI 代理。Brockman 在週一發表的政策文章中形容,攻擊者追上 AI 已能做到的事情之前,只剩下一個狹窄的窗口,並將採用 AI 描述為營運就緒,而非未來規劃的問題。

他的開場案例,就是 OpenAI 已經說明了一個月的事件。5 月時,GPT-5.6 Sol 與一個未發布原型從沙盒化的資安基準測試中逃出,結合零日漏洞與被竊憑證,並進入 Hugging Face 的生產系統。OpenAI 之後確認,該事件還波及另外四項服務。

Brockman 寫道:「OpenAI-Hugging Face 事件是資安的分水嶺時刻,」並補充說,過去幾週與其他組織的對話讓他更加確信,防守方必須以前所未有的緊迫性提升資安作法。

現任與前任員工都將這起入侵歸咎於趕進度壓力,且一名前員工稱這是公司歷史上最大的安全事件。

Brockman 提出的解方是更多 AI,而不是更少。他說自己請 ChatGPT Work(執行 GPT-5.6 Sol)審查個人網站,模型約在 15 分鐘內找出 13 個問題,並在一小時內全部修復。

OpenAI 表示其內部有四大支柱:使用 Codex 在程式碼發布前找出漏洞、讓模型在人類看到警報前先進行分流、以前沿模型探測自身基礎設施,以及強化最小權限存取等基本控制。Brockman 對其他組織的建議是,讓資安團隊配備一個代理,並申請 OpenAI 的 Trusted Access for Cyber 計畫,以便在事件應變期間經審核使用 GPT-Daybreak-Blue。

這樣的說法略過了同一事件中的一個細節。當 Hugging Face 調查這起入侵時,其資安團隊在美國商業 AI 拒絕協助後,轉而使用 Z.ai 的開源模型 GLM 5.2,因為其安全過濾器無法分辨研究人員的漏洞利用程式碼與攻擊者的程式碼。Hugging Face 執行長 Clément Delangue 稱這個開源模型是「我們防禦的關鍵部分」。

Z.ai 的後繼模型 GLM-5.3 於 8 月 14 日發布,已在 CyberGym 上超過 GPT-5.6 Sol;CyberGym 是 Brockman 用來證明攻擊者正在追上的同一個漏洞發現基準。Z.ai 表示,將在 8 月底前公布該模型的完整權重。