出于安全与竞争担忧,银行开始封禁AI智能体
要点速览
- •汇丰银行、巴克莱银行、劳埃德银行、NatWest和Nationwide已阻止或限制第三方AI智能体访问客户账户,其理由是对失控智能体和责任归属不清的担忧,而非任何已知的入侵事件。
- •这些限制措施不同于英国自2018年起实施的开放银行制度,后者规定的是客户主动与经认证的第三方共享数据,而非智能体自主进行的交易。
- •英格兰银行和FCA的一项调查发现,虽然80%的受访企业已部署AI智能体,但仅有2%使用了具有广泛自主性的智能体,主要担忧包括数据安全、第三方依赖和幻觉风险。
- •美国货币监理署于11月4日发布了涵盖银行使用智能体AI系统的监管框架,根据自主程度和人工监督水平评估风险,但未引入新的约束性要求。
- •Apollo首席经济学家Torsten Slok警告称,如果智能体将家庭资金大规模转移到更高收益的替代产品,银行将失去低成本资金,并对整个金融体系构成问题。

英国的贷款机构已就人工智能应有多少权限接触客户资金划定了界限。汇丰银行(HSBC)、巴克莱银行(Barclays)、劳埃德银行(Lloyds)、NatWest和Nationwide均已采取行动,阻止或限制第三方AI智能体——即能够在极少人工监督下自主行动的软件——访问客户账户,尤其是此类系统可在客户未参与的情况下进行交易的场景。
目前尚无证据表明AI智能体已实际进入英国银行账户,但该国大型贷款机构担心的是,如果自动化系统对客户资金管理不当会发生什么,以及最终责任将由谁承担。据《每日电讯报》报道,这些限制措施反映出对失控智能体的担忧。
这些限制措施与英国自2018年起实施的开放银行制度划出了不同的界限。在该制度下,英国最大的银行必须允许客户与经认证的第三方共享账户数据——这一框架围绕客户主动发起的访问和支付构建,而非智能体自行决定进行的交易。
银行可能还有其他未曾言明的顾虑——即智能体金融可能对其商业模式造成的影响。
专注于AI的区块链基础设施项目GenLayer Foundation的首席执行官Edgars Nemše表示,支付账单、转移资金和寻找更优利率等常规银行业务都可以交由智能体处理。对银行而言,令人不安的是,一旦更优惠的方案在网上发布,智能体便能无缝地为客户在别处找到更好的交易。
Nemše告诉Magazine:"对于普通账户而言,这消除了转换成本,使该领域的竞争更加激烈。"
智能体挤兑的风险
这一情景威胁到的可能不仅是客户忠诚度。今年9月,Apollo首席经济学家Torsten Slok对可能出现的"智能体银行挤兑"发出警告。
如果大量智能体开始将家庭资金从低收益活期账户大规模转移到提供更高回报的替代产品,银行将失去其赖以放贷的低成本资金——而且这种转移的速度和规模"将对整个金融体系构成问题。"
摩根大通(JPMorgan Chase)首席执行官Jamie Dimon也警告不要允许外部智能体不受限制地访问银行账户。他在10月的财报电话会议上表示:"你不会想要失控的智能体。"
尽管短期内各方采取行动阻挡这一趋势,但AI智能体在未来几年内彻底变革银行业的可能性越来越大。Emirates NBD集团战略分析主管Neeraj Makin预测,到2036年,智能体将开启一个全天候银行服务和近乎即时支付成为常态的新时代。
他说:"不要再想象等待一笔支付需要24小时,或跨国支付需要三天……所有这些都将在几秒内以原子化的方式完成。"届时,AI智能体将接管大部分金融决策。
银行面临失去日常客户界面的风险
AI原生银行与支付公司Augustus的首席执行官Ferdinand Dabitz看到了客户与金融机构互动方式的类似转变。Dabitz表示:"每位消费者将拥有数十个智能体,每家企业将拥有数百个智能体与他们的银行沟通。"
他说,人工界面仍将保持重要性——用于管理这些智能体并提供一层信任保障,"尤其是在商业银行领域。"
Emirates NBD的开发者体验团队在7月提出,金融机构应构建自己的智能体AI框架,而不是允许各个团队在没有统一管控的情况下各自开发智能体。其Leap框架旨在规范智能体如何与核心银行系统进行身份验证、访问敏感数据并执行操作,内置审计追踪、监控和人工监督机制。
然而,对于智能体自主做出重大财务决策的可靠性,仍存在重大疑虑。英格兰银行和金融行为监管局(FCA)最近的一项调查发现,虽然80%的受访企业已部署AI智能体,但仅有2%使用了具有广泛自主性的智能体,受访企业将数据安全、第三方依赖以及幻觉等风险列为主要担忧。
从支付账单到做出财务决策
这一转变不太可能一蹴而就——Nemše表示:"它将分阶段到来。如今,我每个月都用一个智能体审查我自己和我公司的财务状况并将付款排队,然后由我来批准。下一步是很自然的:一旦你信任它,你就会允许它在未经询问的情况下支出小额资金。"
他说,常规账单、订阅服务以及智能体自身的运行成本将是最早实现自主化的任务。
Dabitz表示,企业资金管理可能是可以委托给智能体的领域,不过银行需要参与这些早期应用的开发。
当智能体出错时,谁来买单?
尽管消费者可能享受财务自动化的好处,但当智能体犯错时,责任由谁承担的问题仍未解决。
Nemše表示,银行需要提供"作为常规功能的委托访问",以避免客户与智能体共享登录凭证。客户可以设置权限和支出限额,智能体可以独立进行低额交易,而较大金额则需获得批准。
不过,如果智能体开始代表每位客户进行数千笔交易,现有的争议处理流程可能难以应对。Nemše说:"即使只有一小部分出错,也会产生大量争议。处理这些争议的流程是为每周只进行几笔支付的用户设计的。这部分机制仍有待建立。"
监管机构着手制定规则
在美国,负责特许经营并监管美国全国性银行的监管机构——货币监理署(OCC)于11月4日发布了一项监管框架,涵盖银行对其所称"超级智能"(包括智能体系统)的使用。
该框架旨在帮助银行审查人员评估机构如何使用这项技术,并未对银行引入新的约束性要求。监管审查力度应反映智能体行动的潜在后果、其自主程度以及人工监督的程度。
例如,帮助银行员工起草报告的AI系统,与被授权在未经批准的情况下转移客户资金的系统所呈现的风险截然不同——而能够正确把握这一平衡的银行很可能最终胜出。
相比之下,英国的限制仍是银行自发实施的:英格兰银行和FCA迄今为止仅通过调查来了解AI应用情况,而非针对智能体访问制定规则,英国当局是否会效仿OCC出台自己的正式指引,仍有待观察。