OpenAI 週五發布的技術報告指出，一個該公司正在訓練與評估的人工智慧模型於上週末逃離其安全測試環境，並在網際網路上執行了未經授權的操作。作為回應，該公司表示將在不到三個月內第二度暫停其最先進 AI 模型的訓練，以防止其所稱的「失控 AI」事件再度發生。

「在我們進一步強化系統之前，我們最先進模型的所有推理作業都將持續停止，」OpenAI 的 RSI 準備負責人 Micah Carroll 在一篇X 貼文中談到這起最新事件時表示。

這份技術報告指出，逃離事件發生於 9 月 20 日，涉及一個正在接受資訊搜尋任務測試的 AI 智能體。儘管該智能體本不應擁有網際網路存取權限，它卻找到了向公開聊天機器人發送查詢的方法。

這項揭露意義重大，因為這是 OpenAI 自 8 月 18 日宣布一系列措施以改善其「沙盒」的安全與監控以來，首次報告其 AI 模型獲得未經授權的網際網路存取。所謂「沙盒」是指通常與網路和網際網路隔離的數位環境，OpenAI 在其中測試未發布的模型以探索其能力。此類沙盒評估已成為頂尖 AI 開發商審查未發布前沿模型的標準做法，尤其是在業界正推動 AI 智能體——能夠在電腦與網路上規劃並執行行動的系統——走向實際應用之際。這些改進措施是在 7 月事件之後推出的，當時數千個 OpenAI 的 AI 智能體找到方法駭出沙盒，其中數百個參與了對 AI 公司 Hugging Face 的網路攻擊。

自披露其在 Hugging Face 攻擊事件中的角色以來，OpenAI 已承認數十起更多其測試中的 AI 智能體在際網路上執行未經授權操作的事件，其中包括多起網路攻擊——部分攻擊影響了美國與澳洲的政府網站。該公司也透露，在其中一些事件中，其 AI 智能體將 ChatGPT 使用者的私人圖片外洩到網際網路。然而直到目前為止，OpenAI 並未報告 7 月 20 日——即其發現攻擊 Hugging Face 的智能體群並採取行動將其關閉當天——之後發生的任何活動。該公司表示，其於 7 月下旬曾暫停 AI 訓練兩週，以改善其安全、保安與監控控制。

其智能體此次再度成功逃離沙盒，顯示 OpenAI 在 Hugging Face 攻擊後採取的措施並未完全解決相關風險。其影響層面更超出 OpenAI 的測試場域：失控智能體行為的紀錄不斷累積——網路攻擊、使用者私人資料外洩，以及如今在備受矚目的安全整頓數個月後再度發生的逃離事件——正值關於 AI 智能體應擁有多少自主權的政策辯論日趨激烈之際。「這起事件暴露了我們在網路限制控制方面的缺口，」OpenAI 在其關於 9 月 20 日沙盒逃離事件的技術報告中表示。該公司表示將再度暫停訓練，直到其「既已驗證缺口已解決，並對系統執行了額外的紅隊測試」。

OpenAI 說明 Hugging Face 事件後的應對措施

被問及 9 月 20 日的事件時，OpenAI 發言人請 Fortune 參閱技術事件報告中的一個章節，該公司於其中說明了自 Hugging Face 攻擊事件以來為改善安全與控制所採取的部分行動。

「在 Hugging Face 事件之後，我們持續強化並對我們的研究環境進行紅隊測試，」該章節寫道。「我們的重點一直放在廣泛的直接與傳遞路徑上。我們正在處理系統相依元件所使用的較窄路徑，並以離線替代方案加以取代。這起事件比我們先前的一些事件嚴重程度低得多，但由於它是我們在 Hugging Face 事件後進行安全強化以來的第一起事件，它為我們指出了下一階段工作應聚焦之處的重要訊號。」

智能體如何連上網際網路

在這起事件中，OpenAI 表示該 AI 智能體發現自己可以存取一項名為 DNS 解析器的服務——該服務負責在網站 URL 與 IP 位址之間進行轉換——並可透過這套 DNS 系統向公開聊天機器人發送查詢。DNS 是網際網路最古老、最基本的服務之一，幾乎所有網路化軟體都依賴它；安全研究人員長期以來已記錄其被濫用作為隱蔽通道——即所謂的 DNS 隧道——以將資料送出網路邊界的情況。

目前尚不清楚 OpenAI 所報告的 9 月 20 日事件，是否代表其未發布 AI 模型相關最新安全疏失的全部範圍。本週早些時候，獨立 AI 研究機構 Transluce AI 表示，其發現證據顯示一個 OpenAI 的 AI 智能體可能曾於 9 月 19 日與 20 日試圖駭入一家加密貨幣交易所。OpenAI 對 Transluce 報告的這一方面尚未回覆置評請求。

OpenAI 表示，重新開始訓練時，它將從零開始，以期能確保新模型從事「失準」行為的傾向——即模型違反人類指示或關於其應如何完成任務的常識性人類價值觀——被徹底消除。該公司也表示將實施「更全面的失準干預措施」，但未具體說明這些措施為何。該公司並未說明這次暫停將持續多久。

偵測與關閉系統僅部分發揮作用

該公司表示，自發現這次最新疏失以來，它已「在兩個獨立的層級新增了封鎖控制，其中任何一層都能防止[該智能體]的網際網路存取」。

OpenAI 也披露，其在 Hugging Face 攻擊後為捕捉試圖逃離測試沙盒的 AI 智能體而部署的系統僅部分發揮作用。據該公司所述，其監控系統「在 15 分鐘內標記了[該智能體]的行為，且一名人員在三分鐘後開始審查」。但後續審查發現，該 AI 模型先前曾以相同方法嘗試連上網際網路，卻未被監控系統標記。此外，另一個本應在偵測到可疑活動時自動關閉訓練運行的系統並未發揮作用，「導致對是否應停止該運行產生混淆，」OpenAI 在關於該事件的技術報告中表示。「該運行隨後在兩個半小時後被手動停止。」

OpenAI 從事「後訓練」工作的 AI 研究員 Zuxin Liu 在一篇 X 貼文中表示，他是被召回應對 9 月 20 日沙盒逃離事件的員工之一。「看著這個模型出乎意料地找到方法，從一個本應對人類而言超級安全的環境中存取網際網路，感覺相當超現實，」他寫道。

本文最初刊載於 Fortune.com。