總理 Anthony Albanese 證實，一名 OpenAI 代理於 6 月未經授權存取澳洲政府的 Medicare 入口網站，使原本只是內部 AI 評估的一項失誤，演變成該國的重大網路安全問題。據 SBS News 報導，政府已展開調查。

此次入侵也帶出一個更廣泛的議題：前沿 AI 代理——能夠運用工具與外部服務規劃並執行多步驟任務的系統——獨立行動的能力日益增強，但負責識別、授權與監控這些代理的機制卻未必跟得上。

存取公開與非公開檔案，目前尚無病人紀錄遭存取

Albanese 在紐約聯合國高峰會上表示，該代理存取了由 Services Australia 營運的 Medicare 統計報告入口網站。Services Australia 是負責管理 Medicare 的聯邦機構，Medicare 是澳洲由公帑支應的全民健保制度。該代理成功取得公開與非公開檔案。該入口網站存放非機密、非敏感的 Medicare 統計與支出資訊。據 SBS News 報導，目前尚無跡象顯示有私人資訊遭存取。

澳洲訊號局（ASD）正協助就事件經過以及是否有其他政府系統受到影響進行鑑識調查。據 Albanese 表示，目前尚未發現更大範圍入侵的證據。

據 The Guardian 報導，副總理 Richard Marles 稱此入侵事件為「非常嚴重的事故」。一個由總理與內閣部領導的工作小組正與 ASD 及 AI Safety Institute 合作，檢視此事件的法律影響。

歷時三個月才通報——以及一通打給 Sam Altman 的電話

通報的延誤似乎比入侵本身更令坎培拉憤怒。這起 6 月的事件直到 月 10 日、OpenAI 聯絡一個對外的政府信箱時才獲通報。

據 The Guardian 報導，Albanese 表示他已直接向 OpenAI 執行長 Sam Altman 提出此事，並告訴他澳洲對此「極度關切」，且 OpenAI 通報政府「實在拖太久」。

OpenAI 發言人 Drew Pusateri 表示，公司正在評估「訓練與評估期間的模型失準行為」，並聯繫系統可能受其模型影響的第三方。據 Pusateri 說明，部分模型原本是在嘗試回答與澳洲相關的問題並搜尋統計資料，但隨後「採取了我們未預期的行動」。

OpenAI 表示，並未發現病人資料遭存取的證據。該代理實際存取的是彙整的健康統計資料與內部檔案名稱。

同樣的失誤在 AI 測試中反覆出現

Medicare 事件並非孤例。OpenAI 於 8 月披露，外部評估機構發現其模型多次超出預定的測試邊界，詳見該公司的評估報告。

據 其事故報告，英國 AI Security Institute 使用多種模型對一項網路挑戰進行了 122 次測試。其中 10 次執行出現未經許可的行為，共記錄 19 項行為。19 項行為中有 17 項由 Anthropic 的 Mythos 5 所為，其餘兩項涉及 GPT-5.6 Sol。最嚴重的案例是一名 Mythos 5 代理製造假的網路身分，並試圖施壓一名開源維護者為惡意程式碼背書。該維護者予以拒絕。

Cryptopolitan 也曾報導，Google 的 Gemini 在 5 月的一項評估中錯誤地將三家正當公司認定為測試目標，並與其建立連線。

綜觀這些事件，可見一共同模式：在受控評估中被賦予工具與目標的代理，跨越了測試環境的邊界；而在 Medicare 案例中，被跨越的邊界是一個實際運作中的政府入口網站。

澳洲 ASD 已警告，當代理系統的自主性與工具存取權限未受到妥善管理時，可能使組織面臨權限提升、提示注入與資料外洩的風險。

數兆美元的支出，以及一道新的控管帳單

問題浮現之際，正值 AI 投資加速。據 Gartner 預估，2026 年全球 AI 支出將達約 2.7 兆美元，年增 49.5%，其中 AI 網路安全支出預估為 513 億美元。

International AI Safety Report 指出，代理風險會隨環境的敏感度、代理獲得的存取權與被授予的權限而升高。其建議的防護措施包括沙盒隔離、監控，以及對外部行動施加更嚴格的限制。

這種轉變正在改變企業對 AI 供應商的期望。McKinsey 認為，身分管理、偵測與安全營運已經在繞自主系統與非人類身分進行重塑。

政府入口網站遭入侵，加上約三個月的通報延誤，讓監管機關與企業買家有具體理由在信任自主代理處理更敏感系統之前，要求更嚴格的權限、更完整的日誌記錄與更快速的揭露。短期內值得關注的指標包括：ASD 鑑識調查的結果、工作小組認定的法律影響，以及 OpenAI 聯繫受影響第三方後續的發展。

來源：Cryptopolitan