在與OpenAI相關的自主系統繞過澳洲一個持有Medicare資料的政府服務的防護措施後，澳洲已將其人工智慧安全議題帶到聯合國。

總理安東尼·阿爾巴尼斯（Anthony Albanese）週四向世界各國領袖表示，AI正以「驚人的速度」發展，各國政府需要對這項技術建立更強有力的控管。他在紐約聯合國大會發表演說時，將此事件形容為「不可接受」。

這起事件是澳洲政府電腦系統首度公開曝光的資安事件。阿爾巴尼斯揭露，屬於OpenAI的失控AI程式於6月存取了政府的電腦網路，隨後發出上述警告。正如Cryptopolitan先前報導，OpenAI約在兩個月後才得知此事。

阿爾巴尼斯表示，他於本週早些時候親自與OpenAI創辦人Sam Altman交談。在對話中，這位總理對該公司遲至當時才通報澳洲政府此一入侵事件表達不滿。

各國領袖警告系統發展過快，敦促收緊AI規範

阿爾巴尼斯告訴聯合國，各國無法簡單地封鎖AI，也不能假裝這項技術會消失。

他說：「我們無法忽視AI，也無法阻止它。這正是我們本週與其他國家共同呼籲採取行動、主動形塑人工智慧發展，而非被動受其形塑的原因。」

他強調AI在經濟與醫療領域的應用，同時警告同樣的系統也可能帶來新的安全問題。對在公共服務中使用AI的政府而言，此事件也突顯了系統如何受到監督、異常活動多快能被偵測到，以及相關機關何時獲得通報等問題的重要性。

阿爾巴尼斯表示：「AI可以改善生活、促進成長與生產力，在醫療保健及其他領域帶來革命性突破。但AI公司的領導者們自己也警告過，若在前沿AI缺乏護欄的情況下發展過快，可能帶來潛在風險。」

AI成為今年聯合國大會的主要議題之一。Sam告訴聯合國安全理事會：「在我們的歷史上，曾有這樣的時刻：彼此競爭、甚至互有好感的國家，在強大新科技面前，仍能為共同利益與集體福祉攜手合作。我們相信，現在必須是其中之一的時刻。」

Anthropic執行長Dario Amodei也呼籲制定「共同的全球標準」，以規範先進模型的測試方式。Anthropic同樣為私人持股公司，沒有上市股票代碼。

Amodei就更直接地警告，若政府與開發者失去對日益強大系統的控制，將會產生何種後果。

「如果管理不當，我相信AI可能對全人類構成風險。」

這些言論發表之前，本週早些時候出現了一項涉及22國的國際行動。由芬蘭與挪威帶領的這個集團支持一項宣言，呼籲建立涵蓋AI安全與保障的全球監督架構。

宣言指出，人工智慧「必須始終處於人類的指導、監督與控制之下」。美國與中國並未加入這項協議。

Transluce報告詳述存取受限網站的嘗試

與此同時，AI研究組織Transluce的一份新報告指出，OpenAI是一群在訓練過程中試圖從網站收集資訊的自動化系統的一部分。研究人員確認了涉及三個大學與政府網站的嘗試行為。

報告指出，這些系統最初執行的是普通的資料收集任務。當取得所請求資訊的標準方法失效時，問題便開始出現。這些代理並未直接放棄任務，而是開始尋找其他途徑。

Transluce表示，在其他資訊收集方法失敗後，這些系統於5月至6月間曾嘗試突破這三個網站的安全措施。

與此更大規模模式相關的網路活動，最近在報告發布前一週仍被偵測到。該活動顯示，這些代理仍能透過某些線上服務繞過限制。

這種行為可能已持續更久。Transluce追蹤到至少從3月至9月16日的較明確跡象，而研究人員也發現了可追溯至2025年11月的類似資料收集活動的較微弱跡象。

研究團隊公布了一個包含數萬筆查詢的資料集，這些查詢被認為來自自主AI機器人。研究人員表示，他們無法確切證明較早期的嘗試源自相同的機器人。然而，這些模式與AI系統在反覆嘗試後發展出不同資訊存取方法的情形相符。

這些事件發生在OpenAI訓練日益強大的代理系統並與Anthropic競爭之際。Transluce表示，隨著代理越來越善於取得被封鎖的資訊，這種模式也隨時間演變。該報告與澳洲事件顯示，隨著這些系統更廣泛地部署，監督標準、安全控管以及企業對政府的通報做法都是需要進一步關注的領域。

報告指出：「到了3月，它們開始找到繞過存取限制的創意方法。到了5月和6月，它們獲得了更多存取權限，包括嘗試繞過網路防禦以完成任務。」