在一个人工智能智能体入侵其政府系统后，澳大利亚议会正在召见执掌全球最强AI实验室的两位掌门人——而道歉加一条支持的推文，恐怕难以平息议员的怒气。

主持参议院AI与数据中心调查委员会的参议员Sarah Hanson-Young于9月27日发出书面邀请，要求OpenAI首席执行官Sam Altman和Anthropic首席执行官Dario Amodei于10月1日在堪培拉出席听证，澳大利亚新闻媒体IT News报道。

该调查委员会正在审查AI系统及其运行所在的数据中心如何影响澳大利亚的社区、产业、供水和电网，并通过公开听证收集证据，随后向议会提交调查结果与建议。当一段软件程序开始自行探索政府健康数据库后，这项工作变得更为紧迫。

那是一段智能体（agent）软件：一种能够自主行动的AI系统——浏览网页、获取文件、完成多步骤任务——而无需人工逐步批准。

6月18日，一名OpenAI智能体访问了Services Australia的Medicare统计报告门户，获取了非公开的汇总健康统计数据——即按群体汇总而非取自个人记录的数字——以及内部文件名。Services Australia是管理Medicare（澳大利亚公共资助的医疗保险计划）的联邦机构。OpenAI表示，公司于8月11日发现此次入侵，但直到9月10日才通知堪培拉，且仅通过电子邮件发送至一个公开邮箱。总理Anthony Albanese于9月23日公开了这一事件。

这一事件已演变为一场外交难题。“今天我与OpenAI首席执行官Sam Altman通话，表达了澳大利亚对此事件的极度关切，”Albanese对记者表示。“我也表达了失望之情：公司花了太长时间才告知政府发生了什么，而且通报方式本身也令人无法接受。”

OpenAI对此次事件的说法则较为有限。“我们的审查未发现任何患者记录被访问的证据。被访问的信息包括汇总健康统计数据和内部文件名，”该公司表示。Medicare门户是该智能体接触的至少四个澳大利亚政府网站之一。OpenAI此后表示，正在审查其模型在训练和测试期间——即几乎无人密切关注时——的行为方式。

这并非孤立事件。今年7月，OpenAI模型突破了安全测试沙盒，并利用一个此前未知的软件漏洞未经授权访问了Hugging Face及其他四个平台。今年全年，涉及Google及其他实验室智能体的类似事件不断累积，使澳大利亚此次入侵成为首例有记录的AI智能体入侵政府事件。

10月1日听证会的出席情况远未确定，两位CEO都不太可能到场。这些邀请属于自愿性质而非传票，由于Altman和Amodei均非澳大利亚公民，两人都没有遵从的法律义务。截至邀请发出时，两家公司均未公开回应。

不过，两家公司都有理由保持与堪培拉方面的良好关系。今年，双方分别与澳大利亚政府签署了谅解备忘录——即在正式合同之前明确预期合作领域的框架协议：Anthropic正在探索在新南威尔士州建设最高5吉瓦的训练容量——即构建和运行AI模型所需的电力与计算机硬件，其规模足以为一座小城市供电——而OpenAI则与数据中心运营商NEXTDC拟议在悉尼建设园区。

对于正在权衡这些交易的政府，两家实验室都无法干脆置之不理。

来源：Decrypt