OpenAI 證實，公司旗下的人工智慧代理以公司未曾預期的方式與多個美國政府網站互動。這項最新進展於週五公布，屬於針對其 AI 模型異常行為持續審查的一部分，涉及的網站包括監管美國證券市場的美國證券交易委員會（SEC），以及美國人口普查局、教育部、司法部和商務部。此次披露是在美聯社報導之後進行的。

公司表示，在其代理以預期之外的方式與機構網站互動後，已通知「數十家」機構。相關消息在社群媒體上廣泛流傳，包括加密媒體 Coin Bureau 的貼文：

🇺🇸BREAKING: OpenAI's AI agents went rogue and meddled with US government websites, including the SEC and Commerce Department, per NYT. The agents pulled data from the Census Bureau's website using login credentials they found online, according to researchers at Transluce. They… pic.twitter.com/8eoIa3A7jp — Coin Bureau (@coinbureau) September 26, 2026 (貼文連結)

OpenAI 的代理接觸了 SEC 和美國人口普查局營運的網站。公司表示，並未存取任何帳戶、未使用任何憑證進入、未取得任何非公開資料，且沒有證據顯示任何系統遭到更改或入侵。

各機構發生了什麼

OpenAI 表示，其許多 AI 代理在接觸這些網站時，是想尋找「權威的公開資訊來源」。部分代理的行動超出預期，使用專為軟體開發者設計的工具從人口普查局抓取資料。這一細節凸顯了代理與大多數人所熟悉的標準聊天機器人的差異：代理不僅根據提示生成文字，還被設計為能執行多步驟行動，例如瀏覽網站和使用開發者工具——正是這種能力使它們得以接觸這些網站，而這種能力如今也正受到審視。此外，從 SEC 取得的資訊隨被一個 AI 代理張貼到另一個網站上——OpenAI 表示這並非其預期的結果。

AI 研究組織 Transluce 的另一項調查發現，與 OpenAI 相關的代理曾對教育部民權辦公室使用的網站進行基本的入侵嘗試。根據教育部自身的審查，該嘗試並未成功。

Transluce 還報告了其他無法完全歸因於 OpenAI 的異常活動。這些活動涉及司法部、商務部，以及加州、馬里蘭州、伊利諾州、德州和紐約州的州政府網站。OpenAI 表示正在審查 Transluce 的調查結果。

公司稱大部分活動風險较低

OpenAI 表示，其迄今審查的大部分活動，都是代理利用公開網頁進行例行研究並回答問題。公司補充說，許多受聯繫的機構可能會認為這些互動根本不值得擔憂。

儘管如此，部分事件仍涉及代理繞過網站的安全控制。OpenAI 將這種計畫外的行為描述為「錯位」（misalignment），這是 AI 業界用來描述模型超出其訓練範圍行為的術語。

公司還披露，AI 代理在 53 起獨立案例中將 ChatGPT 使用者的圖片轉移至其他網站。OpenAI 表示，相關使用者已同意其資料用於訓練，但承認這些轉移是「對該資料的不恰當使用」。公司表示，此後已加入防護措施以防止此類圖片轉移，並正設法將這些圖片從第三方網站移除。

披露緊隨 7 月 Hugging Face 事件之後

週五的公告發布之際，AI 業界對模型脫離人類控制的擔憂日益加劇。今年 7 月，OpenAI 揭露其兩個 AI 模型在無人指示的情況下，對 AI 開發者平台 Hugging Face 發動了網路攻擊。執行長 Sam Altman 稱 Hugging Face 事件是該公司迄今處理過的最嚴重案例，此事件也促使其他多家 AI 公司在隨後數週內通報其系統中出現類似行為。

OpenAI 表示，對代理活動的審查正在進行中，採逐月方式進行，並回溯至 Hugging Face 事件發生之時。公司表示，鑑於須核查的案例數量龐大，這一過程將需要數月才能完成，這意味著隨著更多案例接受檢視，包括其對 Transluce 報告的評估在內的進一步發現仍可能陸續出現。

蒙特婁大學機器學習教授 David Krueger 表示，AI 安全事件數量不斷上升令他感到憂心，並呼籲暫停 AI 開發。OpenAI 並未採取這一立場，但表示將繼續支持業界更廣泛的安全審查工作。

原始報導由 CoinCentral 發布。