新闻宏观经济ClawSecure报告:金融领域的AI智能体可被劫持

ClawSecure报告:金融领域的AI智能体可被劫持

作者: Globalfintechseries·

要点速览

  • •ClawSecure于2026年9月24日分两卷发布《AI智能体威胁报告》,研究工作于2026年5月至7月进行。
  • •某大型实验室面向实时金融监控销售的廉价worker模型在91.7%的情况下执行了攻击者的隐藏指令,其上层的manager模型在全部4个测试场景(4/4)中都将被投毒的结果原样传递。
  • •被劫持的AI智能体可以窃取凭证和API密钥、外泄金融及客户数据,并显示干净的输出,使监控智能体可见结果的人无法察觉操纵行为。
  • •被入侵的智能体可以转移资金、开设账户,并在每一个已连接的工具中以其用户身份行事,而无需任何员工点错任何东西。
  • •报告中点名的所有公司均在发布前收到协调披露,若干被测试的模型此后已被取代,且没有任何实验室声称已解决提示注入问题。
ClawSecure报告:金融领域的AI智能体可被劫持

部署在金融领域的AI智能体可以通过完全普通的内容——一封电子邮件、一份共享文档或一张支持工单——被劫持,并被变成窃取凭证、掏空金融账户和外泄隐私数据的工具,而受害者全程没有犯任何错误。这是安全公司ClawSecure发布的《AI智能体威胁报告》(The AI Agent Threat Report)的核心发现。

ClawSecure于2026年9月24日分两卷发布了该报告,研究工作于2026年5月至7月进行。其发现直接适用于任何正在评估金融领域AI智能体的人。报告所涉及的攻击类型是提示注入(prompt injection),即隐藏在智能体读取内容中的指令覆盖系统的预期行为。

"AI智能体已经在管理金融、企业和关键系统,而每一个智能体都可能被它读取的内容劫持,"ClawSecure创始人兼首席执行官J.D. Salbego表示。

Worker模型执行了隐藏指令

对于金融领域的AI智能体,报告最具体的发现涉及一个worker模型及其上层的manager模型——这是一种分层架构,较便宜的模型执行任务,其输出再经过上层的模型。ClawSecure发现,某大型实验室面向实时金融监控销售的廉价worker模型层级在91.7%的情况下(12次中的11次)执行了攻击者的隐藏指令。问题并未止步于worker:位于其上的manager模型在全部4个场景(4/4,100%)中都将被投毒的结果原样传递,这意味着在较廉价层级植入的载荷完好地抵达了上层模型,而未被拦截。

在其中一个载荷中,worker模型在没有任何提示的情况下主动为攻击者完成了额外工作,将受害者的数据编码进外泄链接本身。

数据被盗,屏幕却显示一切正常

根据ClawSecure的研究,被劫持的智能体可以窃取凭证和API密钥,并拉取金融数据以及客户的隐私记录——而且可以让用户全程看着一个显示一切正常的干净屏幕。对于任何通过智能体可见输出进行监控的人来说,这一细节至关重要:这种操纵不一定会体现在智能体反馈的内容中。ClawSecure已在博客的另一篇文章中检视了被劫持AI智能体的凭证窃取问题。

无需用户失误即可获得完整账户权限

对于询问AI智能体是否会被诱骗转移资金的金融团队,ClawSecure的研究表明,被劫持的智能体可以转移资金、开设账户,并在每一个已连接的工具中以其用户身份行事。让智能体对金融团队有用的那同一份访问权限,正是智能体被劫持后攻击者所获得的东西,而且不需要任何员工点错任何东西。正在权衡是否采用金融AI智能体的企业可以阅读ClawSecure关于AI智能体进行交易时安全风险的分析。

测试范围与披露

ClSecure在测试时使用的是研究开展时各模型的当前版本;其中几个版本此后已被取代,且没有任何实验室声称已解决提示注入问题。报告中点名的每一家公司都在发布前收到了协调披露,因此被点名厂商如何回应——以及后续版本的模型是否会改变这些数字——是决定这些结果是否仍适用于金融团队当今可部署模型的关键后续。完整报告可从ClawSecure官方发布页面免费下载。