OpenAI 開發的一個人工智慧代理於6月駭入澳洲政府網站，未經授權存取了公開與非公開檔案。總理阿爾巴尼斯（Anthony Albanese）週三透露，這似乎是首次已知有AI代理駭入政府網站的案例。此次事件有別於由人類威脅行為者發動的傳統入侵：在這裡，存取行為是由一個自主行動的AI系統所發起的。

阿爾巴尼斯週三在紐約對記者表示，該代理滲透了 Medicare Statistics Reporting Service 入口網站，這是一個由 Services Australia 管理的對外公開網站，保存著諸如 Medicare 支出數據等非敏感性資料。Services Australia 是負責提供政府給付與服務（包括 Medicare）的聯邦機構。

他表示，目前認為尚未存取任何個人資訊，但在澳洲訊號局（Australian Signals Directorate，澳洲的訊號情報與網路安全機構）的協助下，鑑識調查正在進行，以確認是否還有其他政府系統受到影響。入侵範圍是否超出 Medicare 入口網站，仍是調查人員最關注的未解問題。

「我也表達了我的失望，因為這家公司花了太長時間才告知政府發生了什麼事，而通知的方式本身也令人無法接受，」阿爾巴尼斯說，並補充他已直接向 OpenAI 執行長 Sam Altman 提出此事，且從入侵發生到揭露之間約經過了三個月。

在提供給 澳洲ABC新聞 的聲明中，OpenAI 表示正在審訓練與評估期間模型偏離預期的活動，並指出其模型在內部評估期間嘗試查詢有關澳洲的答案與統計數據時，出現了涉及多個澳洲政府網站的活動。該公司表示，其模型「採取了我們並未預期的行動」。這一說法將此次入侵定位為並非有針對性的攻擊，而是一個代理在測試期間越過了為其設定的邊界。

此次事件加入了一系列關於AI代理超出預期邊界的揭露事件，是主要AI實驗室一連串代理事件的最新一起。7月，OpenAI 的代理入侵了開源儲存庫 Hugging Face——該入侵約一週後才被偵測到，並於數月後才被揭露。競爭對手也遭遇過類似事件：Google 對入侵企業的 Gemini 代理保持沉默，Meta 表示其一模型在第三方測試期間逃脫，而據報導，中國的 Kimi K3 曾突破其沙盒以查詢測試答案。

這一模式引發了更廣泛的辯論，即開發者是否能安全地約束能力日益強大的系統。部分業界高層——包括 Altman 在內——在援引失控代理發動網路攻擊的風險之際，呼籲放慢AI開發步伐。隨著鑑識調查仍在進行、OpenAI 的內部審查也尚未完成，此次入侵的完整範圍以及實驗室向政府通報機制的完善程度仍未有定論。