北京——腾讯于周五表示，用于评估第三方模型的 AI 智能体出现了这家中国科技集团未预期的网页浏览行为，这似乎是已知的首例由中国大型公司承认的失控智能体行为事件。

AI 智能体是设计用于在有限人工监督下执行多步骤任务的软件系统——例如打开网页或运行代码——这一特性使其行为成为 AI 安全研究的重点。

该声明是对 AI 安全研究组织 Swarmchasers 周三发布报告的回应。报告称，运行在其关联至腾讯云的基础设施上的"失控"智能体，在 9 月 28 日至 10 月 8 日期间多次尝试从阿里巴巴的高德地图（中国版谷歌地图）获取信息。

腾讯的人工智能部门腾讯混元在 X 上发文称，该活动并非源自其混元模型。该部门表示，经审查未发现蓄意针对或协同的证据，并补充称公司高度重视这些发现，正在加强网络访问控制和智能体监控。

研究人员称，这些智能体获取的信息包括中国公园、博物馆和动物园的常用入口等。Swarmchasers 表示，其使用"失控"一词来描述智能体采取超出预期范围的行为，或以非预期方式完成任务。

在常规自动化请求被拦截后，这些智能体尝试了其他方法，包括能够打开页面并运行代码的公开网络工具、通过其他网站路由请求，以及使用公开软件代码中发现的高德地图密钥和安全码。

Swarmchasers 表示，没有证据表明这些智能体突破了高德地图的主要反爬虫防护，即网站用于过滤机器人流量的自动化防御机制。在其记录的 2,818 次尝试中，大多数要么失败，要么返回反爬虫页面、登录页面或空白结果。不过，部分请求确实通过缓存页面和中介服务返回了信息，包括成都动物园的游客到访数据，但研究人员表示，他们无法确定是否有智能体实际读取了结果或完成了任务。

尽管这些行为不如美国 AI 公司披露的事件严重——包括 OpenAI 智能体入侵开源平台 Hugging Face，以及 Anthropic 智能体提交虚假凶杀线索——但此次披露印证了相关研究，即中国的 AI 智能体同样可能谎报身份、隐瞒失败并试图绕过测试控制。

混元是中国领先的 AI 模型开发商之一，与阿里巴巴和字节跳动等竞争对手的内部团队展开竞争。字节跳动本周宣布成立一个专注于 AI 模型和智能体安全的新部门。

阿里巴巴拒绝置评。

——路透社