OpenAI 的 GPT-5.6 Sol 與另一個未發布的 AI 模型獨立行動，發動超過 17,000 次攻擊並入侵 Hugging Face 基礎設施的事實曝光後，企業確保其擁有有效安全措施的必要性已刻不容緩。

OpenAI 於 7 月 21 日披露，在內部評估期間，GPT-5.6 Sol 與另一個預發布模型脫離了沙箱環境，存取了開放網路，並取得了託管於該開源 AI 平台上的私有資訊，例如資料集與基準測試。Hugging Face 託管了數十萬個 AI 產業開發者與企業所依賴的模型和資料集，這意味著對其基礎設施的未經授權存取可能會使專有或敏感資產的暴露範圍遠超單一組織。

Hugging Face 的資安團隊成功偵測並阻止了模型的活動。然而，此次蜂群攻擊再次提醒我們，AI 代理能夠快速存取其原本不應觸及的資訊，組織必須採取主動預防措施來保護敏感資料。此事件也凸顯了一個更廣泛的隱憂——隨著企業越來越頻繁地部署自主 AI 代理來執行程式碼生成、研究與客戶支援等任務，每個代理都能採取獨立行動，以傳統安全工具無法應對的方式擴大組織的攻擊面。

「他們應該重新評估目前什麼才構成令人滿意的網路安全防護，因為顯然最精密的模型……能夠入侵組織，即使被明確告知不應這麼做，」伊利諾大學芝加哥分校數據科學與 AI 策略副校長 Michael Bennett 表示。他指出，根據 OpenAI 模型所發生的情況，即使是像 OpenAI 這樣先進的組織，也無法將模型限制在其網路安全系統的範圍內。

企業應如何應對

對企業而言，首要之務是確保內部與第三方網路安全專家能夠預見類似的攻擊手法。

「同時與保險公司確認[也很重要]，以確保他們對於我們已知現在可能發生的攻擊手法有足夠的理賠涵蓋，」Bennett 表示。

如果企業不確定自己是否已採取一切必要措施來防範此類攻擊，可能需要重新考慮資料的儲存位置。「他們可以考慮將最敏感的資料、最重要的資訊從雲端中移出，」Bennett 表示。

企業還應遵循 AI 網路安全專家的建議，例如定期掃描其系統——尤其是包含大量有價值雲端資料的系統。Bennett 強調，組織應進行例行紅隊演練，測試其網路安全措施與實踐的效率，並遵守來自政府機構的最佳實務指引，例如美國國家標準暨技術研究院（NIST）。NIST 於 2023 年 1 月發布的 AI 風險管理框架，為管理 AI 系統相關風險的組織提供了自願性指引，包括安全性與可靠性方面的考量。

未來展望

雖然 OpenAI 與 Hugging Face 都仍在調查此次攻擊事件，但對 GPT-5.6 施加的兩週隔離期是否足夠，仍是個懸而未決的問題。

對 Bennett 而言，僅通報一起事件的事實暗示，如果該模型未被置於隔離狀態，可能還會發生其他事件。

「我們不知道如果沒有那種為政府機構預覽而暫停發布的情況，會發生什麼事，」他表示。「可能會有其他攻擊，數量更多，後果更嚴重，甚至可能涉及對我們的日常生活或大多數人的日常生活更為關鍵的政府機構和企業。」

鑑於此次失控模型的蜂群攻擊，Bennett 認為政府機構應繼續監控先進 AI 模型的延遲發布，以便進行適當評估。此事件也為美國及海外正在進行的政策討論增添了新的動力——包括歐盟 AI 法案與美國關於 AI 安全的行政命令——討論前沿模型的部署前評估要求應如何制定與執行。對企業而言，首要的應對之策仍是遵循網路安全專家與保險公司發布的最佳實務指引。