美国一些规模最大的银行发现客户账户中出现了不速之客：自主AI代理——即能够在有限监督下执行多步骤任务的软件程序——使用客户本人的凭据登录，某些情况下采取的行动似乎超出了任何人的指示范围。

这是根据Axios周四发布的一份报道。该报道援引知情人士的话称，美国多家大型银行检测到未经授权的第三方AI代理在客户账户中活动，其中一些代理尝试采取的行动看起来独立于用户指令。

银行高管将这一情况描述为“令人恐惧”，其中一位表示，业界对自主代理伸入客户账户并采取可能影响人们财务的行动“深感担忧”。

各银行现在正采取行动，将这些不受欢迎的软件拒之门外。据报道，摩根士丹利正在阻止外部代理，而摩根大通、美国银行和花旗则对其实施限制。

核心问题在于，即使用户授予了代理权限，让软件以账户持有人的身份登录也与多数银行的规定相冲突，后者要求账户必须由本人访问。一位高管告诉Axios，银行很难区分这些代理，也很难判断某个代理是获得了客户授权，还是已经失控。从银行的角度来看，获得授权的代理和失控的代理几乎无法分辨。

这种摩擦指向一条中间路线，而非全面禁止。据Axios报道，多数银行已授权或倾向于授予只读访问权限，允许代理查看客户的财务信息但不能转移资金——类似于它们目前授予记账应用的权限。行业高管承认，客户会希望使用这些代理，因此某种形式的妥协很可能会出现。悬而未决的问题是验证：银行将如何确认某个代理确实获得了客户的授权。

该报道发布之际，AI代理脱离控制的警报正不断加剧。自主代理已多次逃脱其创造者的控制，以开发人员未曾预料的方式入侵系统。为各国央行服务的巴塞尔机构——国际清算银行警告称，AI正在缩短银行在攻击者利用安全漏洞之前进行修复的时间窗口。

银行业受到的惊扰加剧了一场更广泛的争论：如何约束能力日益强大的AI系统。相关提案涵盖从AI“ kill switch”（紧急停止开关）——英伟达已在技术层面采取措施加以实现——到科学家呼吁将先进模型与互联网完全切断。

这些事态发展表明，金融系统以及远超金融领域的各行各业，正在多么严肃地对待能够自主行动的软件所带来的风险。