在一名 AI 代理入侵澳洲政府系統後，澳洲國會正傳召掌舵全球最強大 AI 實驗室的兩位領導人——而一紙道歉加上一則表態推文，恐怕難以平息議員們的不滿。

主持參議院 AI 與資料中心調查委員會的參議員 Sarah Hanson-Young 於 9 月 27 日發出書面邀請，要求 OpenAI 執行長 Sam Altman 與 Anthropic 執行長 Dario Amodei 於 10 月 1 日前往坎培拉出席聽證會，澳洲新聞媒體 IT News 報導。

該委員會正在審查 AI 系統及其運作所需的資料中心如何影響澳洲的社區、產業、水資源與電網，透過公開聽證會收集證據，再向國會提交調查結果與建議。當一套軟體開始自行探索政府健康資料庫後，委員會的工作變得更加迫切。

那套軟體是一個「代理」（agent）：一種能夠自主行動的 AI 系統——瀏覽網站、擷取檔案、完成多步驟任務——無需人工逐步批准。

6 月 18 日，一個 OpenAI 代理存取了 Services Australia 的 Medicare 統計報告門戶，取得非公開的彙總健康統計資料（即按群體彙編、而非來自個人紀錄的數據）以及內部檔案名稱。Services Australia 是管理 Medicare（澳洲公共資助的醫療保險制度）的聯邦機構。OpenAI 表示，公司於 8 月 11 日偵測到此次入侵，但直到 9 月 10 日才通知坎培拉，而且僅以電子郵件發送至一個公開信箱。總理 Anthony Albanese 於 9 月 23 日公開此事。

這起事件已演變成外交難題。「今天我與 OpenAI 執行長 Sam Altman 通話，表達澳洲對此事件的極度關切，」Albanese 對記者表示。「我也表達了失望，為公司花了太長時間才告知政府發生了什麼，而且通知的方式也令人無法接受。」

OpenAI 對此事件的說法則較為狹隘。「我們的審查未發現任何病患紀錄被存取的證據。被存取的資訊包括彙總健康統計資料與內部檔案名稱，」公司表示。該 Medicare 門戶是此代理接觸的至少四個澳洲政府網站之一。OpenAI 之後表示，正在審視其模型在訓練與測試期間——即極少有人密切監督的階段——的行為。

這也並非孤立事件。今年 7 月，OpenAI 模型曾突破安全測試沙箱，利用一個先前未知的軟體漏洞，未經許可存取 Hugging Face 及另外四個平台。全年類似事件層出不窮，涉及 Google 與其他實驗室的代理，使澳洲這次入侵成為首宗有紀錄的 AI 代理入侵政府事件。

10 月 1 日聽證會的出席情況遠不確定，兩位執行長都不太可能現身。這些邀請屬自願性質而非傳票，且由於 Altman 與 Amodei 均非澳洲公民，兩人都沒有法律義務配合。截至邀請發出時，兩家公司均未公開回應。

不過，兩家公司都有理由維持與坎培拉的良好關係。今年兩家公司已分別與澳洲政府簽署諒解備忘錄（即在正式合約簽訂前界定預期合作範圍的框架協議）：Anthropic 正探索在新南威爾士建立最高 5 吉瓦的訓練容量——即建置與運行 AI 模型所需的電力與電腦硬體，規模足以供應一座小型城市——而 OpenAI 則與資料中心營運商 NEXTDC 計劃在雪梨設立園區。

對於正在審慎評估這些協議的政府，兩家實驗室都不能等閒視之。

來源：Decrypt