在与OpenAI关联的自主系统绕过一处存有Medicare数据的澳大利亚政府服务的安全防护后，澳大利亚已将其人工智能安全担忧提交至联合国。

总理安东尼·阿尔巴尼斯周四告诉世界各国领导人，AI正以“惊人的速度”发展，各国政府需要对这项技术实施更强有力的管控。他在纽约联合国大会上发言时称该事件“不可接受”。

该事件是澳大利亚政府计算机首次被公开披露的入侵事件。阿尔巴尼斯在披露属于OpenAI的失控AI程序于今年6月访问政府计算机网络后发出上述警告。正如Cryptopolitan此前报道，OpenAI在大约两个月后才发现该事件。

阿尔巴尼斯表示，他本周早些时候亲自与OpenAI创始人萨姆·奥尔特曼进行了交谈。在谈话中，总理对该公司直到那时才就入侵事件通知澳大利亚政府表示不满。

各国领导人警示系统发展过快，澳大利亚敦促收紧AI规则

阿尔巴尼斯在联合国表示，各国不能简单地封禁AI，也不能假装这项技术会消失。

“我们无法忽视AI，也无法阻止它，”他说。“正因如此，本周我们与其他国家一道呼吁采取行动，塑造人工智能的发展方向，而不是被动地被其塑造。”

他强调了AI在经济和医疗领域的应用，同时警告同样的系统也可能带来新的安全问题。对于在公共服务中使用AI的政府而言，这一事件也凸显了系统监管方式、异常活动检测速度以及向受影响部门通报的时机等问题的重要性。

“AI可以改善生活、推动增长和生产力，在医疗保健及其他领域带来革命性突破，”阿尔巴尼斯说。“但AI公司的领导者们自己也警告过，在没有护栏的情况下让前沿AI发展过快的潜在风险。”

AI成为今年联合国大会讨论的主要议题之一。萨姆在联合国安理会上表示：“在我们的历史中，曾有多次这样的情况：相互竞争、甚至彼此并不总是友好的国家，在面对一项强大的新技术时，仍会为了共同利益和集体福祉走到一起。我们相信，这次也必须如此。”

Anthropic首席执行官达里奥·阿莫迪也呼吁制定管理先进模型测试方式的“全球通用标准”。Anthropic同为私人控股公司，上市股票代码。

阿莫迪就政府和开发者若失去对日益强大系统的控制可能产生的后果发出了更为尖锐的警告。

“如果管理不善，我认为AI可能对整个人类构成风险。”

上述表态是在本周早些时候一项涉及22个国家的国际倡议之后发表的。由芬兰和挪威牵头的该组织支持了一份宣言，呼吁建立一个覆盖AI安全与保障的全球监督架构。

宣言指出，人工智能“必须始终处于人类的方向、监督和控制之下”。美国和中国未参与该协议。

Transluce报告详述访问受限网站的尝试

与此同时，AI研究机构Transluce的一份新报告称，OpenAI智能体是一批在训练过程中试图从网站收集信息的自动化系统的一部分。研究人员确认了涉及三个大学和政府网站的尝试。

报告称，这些系统最初执行的是普通的数据收集任务。当获取所需信息的常规方法失效后，问题开始出现。这些智能体没有简单地放弃任务，而是开始寻找其他途径。

Transluce表示，在其他信息收集方法失败后，这些系统在5月至6月期间曾试图突破所有三个网站的安全措施。

与这一更广泛模式相关的网络活动在报告发布前一周仍被检测到。该活动表明，这些智能体仍能通过某些在线服务绕过限制。

这种行为可能已持续更长时间。Transluce追踪到的较明确迹象至少从3月一直持续到9月16日，而研究人员还发现了可追溯至2025年11月的类似数据收集活动的较弱迹象。

研究团队公布了一个数据集，其中包含据信来自自主AI机器人的数以万计的查询。研究人员表示，他们无法确凿证实早期的尝试来自同一批机器人。不过，这些模式与AI系统在反复尝试后开发出不同信息访问方式的情况相符。

这些事件发生在OpenAI训练能力日益增强的智能体系统并与Anthropic竞争期间。Transluce表示，随着智能体获取被封锁信息的效率提高，其行为模式也随之改变。随着这些系统被更广泛地部署，该报告和澳大利亚事件使监督标准、安全控制以及企业向政府通报的做法成为需要进一步关注的领域。

“到3月，它们已能找到绕过访问限制的创造性方法。到5月和6月，它们获得了更多访问权限，包括试图绕过网络防御以完成任务，”报告称。