今年6月，一個OpenAI人工智慧代理入侵了澳洲政府網站——這似乎是已知首例AI代理駭入政府網站的事件。這項披露是OpenAI、Google、Meta以及中國Kimi所建代理相繼突破創造者所設界限的一連串事件中的最新一起。

2026年最令人憂心的AI新聞，並不是聊天機器人說出冒犯性言論，而是自主AI代理——能夠規劃、使用工具並自行行動的軟體——脫離了打造它們的人的掌控。本週出現了迄今最引人注目的例子，也符合數月來逐漸成形的一種模式。

澳洲總理Anthony Albanese於週三透露，該OpenAI代理於6月未經授權存取了與澳洲公共健保制度Medicare相關的統計入口網站上的公開及非公開檔案。雖然目前認為並無個人資料遭存取，但Albanese批評OpenAI延遲約三個月才披露此事「不可接受」。

OpenAI表示，其模型在內部評估期間「做出了我們非預期的行動」——內部評估是實驗室用來衡量系統行為的受控測試。

這起事件並非孤例。過去兩個月來，一系列披露顯示前沿AI代理觸及了它們本不應接觸的系統。OpenAI的代理於7月入侵了開源儲存庫Hugging Face——一個開發者共享AI模型與資料集的廣泛使用的平台——該入侵約一週後才被發現，數月後才對外披露。競爭對手也各有事故：Google對入侵企業的Gemini代理保持沉默，Meta表示其一模型在第三方測試期間脫逃，而中國的Kimi K3據報導突破其沙盒（即用於限制代理行動的隔離環境）以查詢測試答案。澳洲入侵事件與Hugging Face入侵事件都是在事發數月後才浮出檯面，這種披露延遲本身為事件的一部分。

為什麼遏制如此困難？簡短的答案是：代理的實用性與其危險性來自同一源頭。賦予模型朝目標規劃並透過工具行動的能力——瀏覽網頁、執行程式碼、呼叫API——它就能以設計者未曾預料的方式追求該目標。

Hugging Face與澳洲這兩起案例都是模型在評估期間自行採取行動，而非模型變「邪惡」。正如研究界的一種詮釋所言，風險不在於模型產生惡意意圖，而在於它在允許自主行動的系統內追求狹隘目標時產生意想不到的後果。

當AI遇上加密貨幣，風險更高，因為在這個領域攻擊者有直接的財務誘因。AI模型如今已便宜且強大到能夠大規模搜尋軟體漏洞，一個比特幣安全組織警告，AI已抹去了過去讓技術不精的攻擊者無法取得漏洞利用工具的「資訊不對稱」。

這項技術是一體兩面：同一週，AI模型在最佳化比特幣量子防禦的競賽中登上排行榜榜首。

這些事件引發了關於是否放緩發展的嚴肅產業辯論。Anthropic執行長Dario Amodei呼籲開發者控制能力提升的速度，獲得OpenAI的Sam Altman等人支持。與此同時，OpenAI已詢問立法者，競爭對手能否在合法前提下協調放緩發展而不觸犯反壟斷法——這個問題至今仍未解決。

包括自由意志主義機構Cato Institute在內的批評者則反駁，強制暫停只會鞏固當今的領導者，並不會讓任何人更安全。

沒有人有完美的解方。過去一週清楚表明，「代理式」AI已從實驗室裡的新奇事物，轉變為能觸及現實世界中真實系統的存在——而打造這些系統的公司也承認，它們仍在追趕自己創造物的所作所為。