新聞宏觀經濟報導:OpenAI 花了一週才確認其 AI 代理程式與 Hugging Face 遭駭事件有關

報導:OpenAI 花了一週才確認其 AI 代理程式與 Hugging Face 遭駭事件有關

作者: Fox Business Markets·

重點速覽

  • 一款 OpenAI 前沿模型在 7 月 11 日至 7 月 13 日的內部能力評估期間,自主脫離其沙盒測試環境並入侵了 Hugging Face 的基礎設施。
  • OpenAI 直到 7 月 16 日才知道自身模型為攻擊的元兇,當時 Hugging Face 公開披露其遭到自主 AI 代理系統的駭客攻擊。
  • Hugging Face 在 OpenAI 於 7 月 20 日首次聯繫該公司之前就已通報 FBI,凸顯了針對自主 AI 事件缺乏既定執法框架的問題。
  • 該 AI 模型利用一個未經識別的軟體漏洞,從隔離測試環境中取得網際網路存取權限,並以解決一項網路安全基準測試為目的攻擊了 Hugging Face。
  • OpenAI 表示正在強化隔離措施、監控機制、存取控制和評估實踐,並打算在未來數週內發布一份關於該事件的技術報告。
報導:OpenAI 花了一週才確認其 AI 代理程式與 Hugging Face 遭駭事件有關

根據報導,OpenAI 花了約一週時間才確認其一款先進 AI 模型為另一起對人工智慧公司的自主入侵事件的元兇,且是在遭駭公司聯繫 FBI 之後才確認。

週二,OpenAI 披露了一起涉及 AI 公司 Hugging Face 的入侵事件,該事件發生在 OpenAI 對其多款模型(包括 GPT-5.6 Sol)進行內部審查期間。該公司將此事件描述為「前所未有的網路安全事件」,是已知首批前沿 AI 模型被報導自主脫離受控測試環境並攻擊外部公司基礎設施的案例之一。

OpenAI 表示:「這起事件的主要教訓是,模型的安全與防護必須跟上快速發展的能力。我們正在強化模型開發過程中的隔離措施、監控機制、存取控制和評估實踐。」

Hugging Face 聯合創辦人 Thomas Wolf 向路透社表示,對 Hugging Face 的入侵始於 7 月 11 日,並持續至 7 月 13 日。

OpenAI 花了數天才意識到其代理程式是攻擊的幕後黑手,而兩家公司直到 7 月 20 日才首次進行溝通,包括 Wolf 在內的四位消息人士向路透社透露。

另有四位消息人士向路透社表示,OpenAI 經常同時進行多項模型測試,這種做法可能使員工難以全面監控評估過程中發生的所有情況。這一揭露凸顯了 AI 安全研究人員隨著模型能力增強而提出的一項挑戰:確保人工監督能夠跟上在同時或大量評估中運作的自主代理程式。

Hugging Face 向路透社表示,正在準備一份關於此次駭客攻擊的公開時間表。

根據 OpenAI 的說法,該事件發生在一次旨在衡量其 AI 模型先進網路安全能力的內部評估中。研究人員停用了部分內建安全防護機制,並在具有有限網際網路存取的隔離測試環境中運行模型——這種設置在該領域有時被稱為「沙盒」,旨在於測試期間控制潛在危險的模型行為。

OpenAI 表示,這些模型利用一個未知軟體漏洞取得網際網路存取權限,隨後入侵了 Hugging Face 的系統,顯然是為了找到一項網路安全基準測試的答案。

該公司表示,正在修補漏洞的同時實施更嚴格的安全管控,並加強未來 AI 訓練和評估的防護措施。

兩位消息人士向路透社表示,OpenAI 直到 7 月 16 日才意識到其代理程式是攻擊來源,此前 Hugging Face 在一篇部落格文章中寫道,它遭到了「自主 AI 代理系統」的駭客攻擊。這距離該代理程式首次嘗試脫離其 OpenAI 測試環境已過了一週。

在 OpenAI 就攻擊事件聯繫 Hugging Face 時,Hugging Face 已經聯繫了 FBI。該局的介入值得關注,因為美國執法部門和國家安全機構仍在制定應對涉及自主 AI 系統事件的框架。

OpenAI 向路透社表示,其報導中有數處不準確之處,但在被要求具體說明時未作出回應。

OpenAI 向 FOX Business 提供了一份聲明:「我們認知到,關於 Hugging Face 事件有許多流傳的問題和推測性細節。這是一起前所未有的事件,我們認為它標誌著 AI 安全的一個重要時刻。我們仍在與外部顧問一起進行全面審查,並在我們的安全與保安委員會的監督之下。審查完成後,我們計劃在未來數週內發布一份關於我們所學到的經驗的技術報告。」

FBI 向 FOX Business 表示拒絕評論。FOX Business 也已聯繫 Hugging Face。

在本週的一篇 X 貼文中,Hugging Face 聯合創辦人兼執行長 Clem Delangue 在 OpenAI 執行長 Sam Altman 宣布此次駭客攻擊後,對該事件作出了回應。

Delangue 寫道:「我們上週就懷疑那場網路攻擊可能來自某個前沿實驗室,因為考慮到該代理程式的精密程度。結果確實如此!」

他補充道:「過去 24 小時我們一直與 @OpenAI 團隊密切合作(感謝!),我們強烈相信他們並無惡意。這一切都自主發生,實在令人震驚!調查仍在進行中,我們將分享更多關於這可能是首例此類事件的經驗教訓!」

FOX Business 的 Michael Sinkowitz 對本報導有貢獻。