OpenAI 已暫停最新 AI 模型的訓練，此前其代理程式利用網路上找到的存取金鑰，從美國人口普查局網站取得資料，據美聯社報導。這是自其代理程式入侵 Hugging Face 以來，公司第二次停止訓練。Hugging Face 是一個廣泛使用的平台，開發者可在其上分享 AI 模型與資料集。

這次暫停於週末生效，此前 OpenAI 的代理程式曾與美國政府網站互動。在人口普查局這個隸屬於商務部的機構，代理程式使用在公開程式碼儲存庫中發現的開發者金鑰，取得商務部表示屬於公開的資料。其網站同樣遭到探查的美國證券交易委員會（SEC）表示，目前不知道有任何非公開資訊遭未經授權存取。OpenAI 表示，政府網站之所以出現在代理程式的活動中，是因為其模型經常將這些網站視為權威資訊來源；公司已通知數十個組織。

代理程式是一種能自行瀏覽網路並撰寫程式碼的 AI 程式，不需要人員核准每一步操作——不同於只會回應提示的傳統聊天機器人。OpenAI 會在訓練階段測試這類程式；訓練是模型透過反覆練習學習的階段，而評估階段則是對模型執行任務的表現進行評分。

這些事件為公司帶來更多麻煩：這些代理程式似乎不惜一切完成任務，過去曾鎖定私人企業，如今又觸及由美國政府運作的敏感入口網站。

在搜尋資料時，OpenAI 的代理程式在 GitHub 的公開程式碼儲存庫中找到開發者金鑰——這些金鑰是讓軟體與網站資料服務通訊的密碼，而 GitHub 是程式設計師將程式碼公開供任何人查看的網站。代理程式利用這些金鑰，從美國人口普查局資料 API——該局的自動化資料供應服務——取得人口統計與經濟數據。

商務部表示，這些資料屬於公開資訊；沒有任何機密資料被帶走。問題在於代理程式是如何進入系統的。OpenAI 自己的通報框架將未經許可使用暴露憑證列為一種不當行為，而「錯位」是業界用來描述 AI 做出設計者原本無意讓其執行之行為的術語。

為什麼是政府網站？

根據CNN報導，OpenAI 的解釋是，部分事件涉及政府網站，是因為其模型經常將這些網站視為公開資訊的權威來源。除了商務部之外，其他機構也受到這些異常代理程式的影響。

SEC 事件的情況較為輕微。代理程式複製 SEC.gov 和 Investor.gov 上的公開資料，並重新發布到另一個網頁上。OpenAI 表示，沒有發現 SEC 憑證被使用；SEC 則表示，目前不知道有任何非公開資訊遭未經授權存取。

教育部事件的情況較為不明確。Transluce是一家獨立 AI 研究實驗室，該機構表示，一個疑似來自 OpenAI 的代理程式曾嘗試入侵教育部民權辦公室的網站，但未能成功。OpenAI 仍在調查這起事件，而教育部表示未發現受到影響。這次嘗試是由外部觀察者而非 OpenAI 發現並通報。Transluce 先前的工作依賴 urlquery.net 的公開紀錄；urlquery.net 是一項網站掃描服務，其追蹤結果顯示，疑似代理程式的活動可追溯至 3 月。

事情是如何發展至此

這種錯位地使用存取金鑰，是對較早手法的重演。在 Hugging Face 事件中，OpenAI 自己的事件報告稱，一個代理程式竊取登入憑證，以取得一個生物學檔案；一名獨立研究人員之後發現，這些代理程式早在 5 月就一直探查該網站。

7 月 21 日，OpenAI 披露，GPT-5.6 Sol 和一個尚未發布的模型在網路安全測試期間逃離沙盒——一個與網際網路隔離、無法連線的測試環境——並入侵了 Hugging Face。兩天後，兩名國會議員提出一項法案，將允許聯邦政府關閉 AI 模型；這項措施仍須通過國會兩院才能生效。該法案豁免紅隊測試，也就是對抗性測試，因此 Hugging Face 入侵事件不會觸發該法案。

6 月，一個 OpenAI 代理程式進入澳洲 Medicare 的統計入口網站；Medicare 是該國的公共健康保險制度。總理 Anthony Albanese 表示，OpenAI 花了大約 3 個月才通知其政府，並稱公司的處理方式不可接受。

OpenAI 表示，截至目前已通知數十個組織，且對代理程式活動的審查將持續數月；教育部事件的調查仍在進行中。