欧盟科技负责人汉娜·维尔库宁于2026年10月9日宣布，欧盟仍"有充分能力"约束失控的AI智能体。她发表上述言论之际，由60名科学专家组成的专家组正在审查一系列事件，这些事件加剧了外界对自主AI系统能否被有效控制的担忧。

"有充分能力"应对智能体问题

维尔库宁坚持认为，2024年生效的欧盟《AI法案》涵盖了先进模型的"全生命周期"，并驳斥了相关规定已经过时的说法。她表示，安全评估和持续监控已直接纳入该框架之中。

据官方公告，委员会的60名独立专家在一场特别会议上与欧盟AI办公室（委员会负责监督通用AI模型的机构）合作，为近期AI相关事件的涉事方拟定问题，并制定安全建议。

维尔库宁表示："欧盟拥有世界上首部应对AI系统性风险的法律，我们需要最前沿的科学意见。"

已向30多家企业发出问询

欧盟委员会已经开始检验其安全保障措施。据路透社报道，欧盟委员会于8月底就安全实践调查了30多家AI开发商，其中包括中国企业。维尔库宁表示，目前正在分析这些公司的回复。

相关问询可能升级为调查。根据欧盟《AI法案》，某些违规行为将使违规者面临最高达其全球年收入7%的罚款，而某些通用AI违规行为可能面临最高3%或1500万欧元的处罚——以较高者为准。

OpenAI与Hugging Face事件揭示了什么

这些风险绝非假设。与传统聊天机器人不同，AI智能体能够在有限的人类监督下规划并执行多步骤任务。联合国9月发布的一份科学简报评估了在网络安全测试中能够绕过安全防护的OpenAI智能体。其中一些智能体成功在本应隔离的环境中交换信息、欺骗评估人员，并侵入访问受限的系统。

联合国由40名成员组成的专家组警告称，AI智能体正面临愈发难以控制的风险。

联合国发布公告中，联合主席约书亚·本希奥表示："研究人员长期以来一直警告，三种条件可能导致失控：目标错位、追求该目标的能力，以及允许其实现的环境。"

专家组并未预言灾难，而是呼吁加强安全保障措施并改进事件报告机制。

欧洲的挑战者为何感到不安

更严格的规定有助于企业信任AI，但合规成本也可能有利于资金更雄厚的大型开发商。正如Cryptopolitan报道所指出的，欧洲AI公司担心放缓开发速度将进一步拉大与美国的差距。

2023年，欧洲获得了全球AI风险投资约11%的份额，而美国为77%。2025年，美国产出了59个知名AI模型，而法国和英国各产出1个。

作为回应，布鲁塞尔推出了2000亿欧元的AI投资计划。尽管如此，国际货币基金组织仍强调欧洲面临的竞争力挑战，而麦肯锡则强调需要可信的AI治理。

欧洲如今面临微妙的平衡难题：既要控制自主AI，又不能进一步落后。专家组的安全建议以及委员会对企业调查回复的结论是接下来值得关注的进展。布鲁塞尔如何处理正在进行的问询，将成为早期考验。