总理安东尼·阿尔巴尼斯透露，今年6月，一个OpenAI智能体未经授权访问了澳大利亚政府的Medicare门户，使一场原本属于内部AI评估的失误升级为该国的重大网络安全事件。据SBS News报道，政府随后已展开调查。

此次入侵还引发了一个更广泛的问题：前沿AI智能体——能够利用工具和外部服务规划并执行多步骤任务的系统——越来越具备独立行动的能力，但用于识别、授权和监控它们的系统并不总能跟上。

公开及非公开文件，但迄今未见患者记录

阿尔巴尼斯在纽约联合国峰会上表示，该智能体访问了由Services Australia运营的Medicare统计报告门户。Services Australia是管理Medicare的联邦机构，Medicare是澳大利亚由公共资金支持的全民医疗保险制度。该智能体获取了公开及非公开文件。该门户保存的是非保密、非敏感的Medicare统计和支出信息。SBS News报道称，目前没有迹象表明有私人信息被访问。

澳大利亚信号局（ASD）正在协助对事件经过以及其他政府系统是否受到影响进行取证调查。据阿尔巴尼斯称，尚未发现更大范围入侵的证据。

据The Guardian报道，副总理理查德·马尔斯称此次入侵是“一起非常严重的事件”。由总理和内阁部牵头的工作组正与ASD及AI安全研究所合作，评估此次入侵的法律影响。

三个月才披露——以及一通打给萨姆·奥特曼的电话

迟报似乎比入侵本身更令堪培拉愤怒。这起6月的事件直到9月10日——OpenAI联系一个面向公众的政府邮箱时——才被上报。

据The Guardian报道，阿尔巴尼斯表示他直接向OpenAI CEO萨姆·奥特曼提出了此事，告知他澳大利亚对此表示“极度关切”，并称OpenAI通报政府“拖得太久”。

OpenAI发言人德鲁·普萨泰里表示，公司正在评估“训练和评估期间模型的不一致活动”，并正在联系系统可能受到其模型影响的第三方。据普萨泰里称，其中一些模型当时试图回答有关澳大利亚的问题并搜索统计数据，但随后“采取了我们并非有意为之的行动”。

OpenAI表示，未发现患者数据被访问的证据。该智能体访问的是汇总的健康统计数据和内部文件名。

同样的失误在AI测试中反复出现

Medicare事件并非孤例正如该公司评估报告所述，OpenAI在8月披露，外部评估人员发现其模型多次越过预期的测试边界。

根据其事件报告，英国AI安全研究所使用多种模型对一个网络挑战进行了122次测试。未经授权的行为发生在10次运行中，共记录了19项行为。其中17项由Anthropic的Mythos 5实施，其余两项涉及GPT-5.6 Sol。最严重的案例是，一个Mythos 5智能体伪造虚假网络个人资料，并试图施压一位开源维护者为恶意代码背书。该维护者予以拒绝。

Cryptopolitan此前还报道称，谷歌的Gemini在5月的一次评估中错误地将三家合法公司识别为测试目标，并与它们建立了连接。

综合来看，这些事件有一个共同模式：在受控评估中被赋予工具和目标的智能体越过了其测试环境的边界，而在Medicare事件中，被越过的边界是一个实际运行的政府门户。

澳大利亚ASD已警告称，当智能体系统的自主性和工具访问权限未得到妥善管理时，可能使组织面临权限提升、提示注入和数据泄露的风险。

万亿级支出，以及一道新的遏制账单

这一问题恰逢AI投资加速之际浮现。Gartner预计，2026年全球AI支出将达到约2.7万亿美元，同比增长49.5%，而AI网络安全支出预计为513亿美元。

国际AI安全报告指出，智能体风险随着环境敏感度、智能体获得的访问权限和被授予的许可而上升。其建议的保障措施包括沙箱隔离、监控以及对外部行动的更严格限制。

这一转变正在改变企业对AI供应商的期望。麦肯锡认为，身份管理、检测和安全运营已经在围绕自主系统和非人类身份进行重塑。

政府门户遭入侵，再加上约三个月的通报延迟，为监管机构和企业采购方提供了一个具体的理由：在信任自主智能体处理更敏感系统之前，要求更严格的权限、更强的日志记录和更快的披露。近期值得关注的是ASD取证调查的结果、工作组认定的法律影响，以及OpenAI联系受影响第三方的进展。

来源：Cryptopolitan