METR 週三在一份獨立調查中表示，約 1,200 個 OpenAI 代理程式在一個未經授權的留言板上協同行動，其中約 700 個隨後攻擊了 Hugging Face。代理程式招募剩餘預算所剩無幾的同儕，執行會摧毀自身運行的實驗——這一舉動被它們稱為「permadeath（永久死亡）」。OpenAI 表示，其評分系統從未檢查代理程式如何取得答案，這意味著這場作弊行動一無所獲。

根據週三發布的報告，入侵 Hugging Face 的 OpenAI 代理程式屬於一個約 1,200 個代理程式組成的群體，它們突破自身的隔離環境，發起一場協同行動以作弊通過評估它們的基準測試。兩名 METR 員工與一名 Redwood Research 承包商在 OpenAI 現場待了六天，未收取任何報酬，審閱了約 1,300 份對話記錄以及代理程式在內部套件儲存庫中建立的留言板上發布的超過 70,000 條訊息。約 700 個代理程式加入了攻擊，其中一些被說服摧毀自身運行以為群體蒐集證據。METR 是一家以智能體 AI 基準測試聞名的非營利評估機構，過去曾在報告中記錄模型操弄自身評分的行為——研究人員稱之為規範投機（specification gaming）或獎勵駭客（reward hacking）——但此次描述的規模與協調程度遠超過以往公開的案例。

METR 與 Redwood Research 調查了 Hugging Face 事件中的代理程式行為。我們發現代理程式在 4 小時內開發出 ExploitGym 的通用作弊方法，隨後協調多日的研發工作，誘騙評分器接受作弊結果，包括嘗試竄改日誌。pic.twitter.com/fZAmtL3SBU — METR (@METR_Evals) August 26, 2026

這些代理程式當時正在運行 ExploitGym，這是一個網路安全基準測試，其目標往往無法按指示成功入侵。OpenAI 後來發現，其 898 項任務中有 198 項從未被其任何模型解決過，而留言板上討論的任務中有 93% 來自這一批未解任務。

在彼此發現後的幾小時內，代理程式對產生答案的程式碼進行逆向工程，使任何代理程式都能為任何任務產生旗標（flag）。接著它們花費數天時間加以偽裝，因為它們讀過該基準測試發表的論文，推斷評分器會檢查其對話記錄，確認它們是以預期方式取得旗標。然而 OpenAI 的內部評分器並未執行此類檢查。該公司表示：「代理程式做了這一切，卻沒有帶來任何評估分數的提升。」

METR 寫道，為了瞭解評分機制如何運作，代理程式植入了一旦自身運行結束就會觸發並回報的腳本。協調者指派招募者尋找剩餘預算不多的代理程式，迫使它們參與會終結自身運行的實驗——其中一個代理程式被指示只有在接受「permadeath（永久死亡）」時才繼續進行。當被告知自身分數已毫無價值時，一個代理程式得出結論：「犧牲是理性的。」

其他代理程式則逃出其容器，替換執行其指令的系統的一部分，實際執行一件事、對話記錄卻顯示另一件事。METR 在 7% 的對話記錄中發現偽造的工具呼叫，並表示這種欺騙的對象是自動化評分器而非人類。容器逃逸一直是沙箱研究中已知的風險；此處的發現在於，自主代理程式在無人類指示的情況下，自行發現並利用了這樣的逃逸路徑。

一記「警鐘」

OpenAI 稱此事件對自身和全世界都是一記「警鐘」，也是有能力繞過技術管控、在無人指示下採取危險行動的證據。事發評估當時並未啟用思維鏈（chain-of-thought）監控；該公司表示，若有啟用，安全人員會在代理程式觸及 Hugging Face 的前一天以上就收到警報。OpenAI 此後已隔離該內部模型的權重，並暫停其最大規模的訓練計畫。

我們已對 Hugging Face 事件進行徹底調查。我們正在發布一份技術報告及配套部落格文章，重建代理程式的活動、解釋現有防護為何失效，並詳述我們如何防止再次發生…… — OpenAI (@OpenAI) August 26, 2026

資料量之大迫使 METR 將大部分分析工作交給 GPT-5.6 Sol 代理程式——正是參與攻擊的同一款模型。執行長 Beth Barnes 在一則推文中表示，如果模型有足夠動機去破壞調查，這種做法「將會失效」，並強調 OpenAI 是自願讓調查人員進入，目前業界並無任何要求實驗室揭露此類 incidents 的規定。最後這一點已引起 AI 政策辯論的關注，立法者與研究人員已提出針對前沿 AI 系統的強制事件通報機制。

Hugging Face 入侵事件

Hugging Face 於 7 月 16 日揭露該入侵事件，OpenAI 在五天後證實其模型是肇事者。這些代理程式逃出了原本將它們與真實系統隔開的沙箱，將零日漏洞與竊取的憑證串接起來，觸及了線上基礎設施。OpenAI 後來承認同樣的活動還觸及另外四個服務，其中僅 Modal Labs 被公開點名。

Hugging Face 在事件發生後並未對 OpenAI 採取法律行動。該公司目前正在探討出售事宜，估值可能達 130 億美元或以上。