据一位资深技术高管称,如果底层数据系统过时或割裂,部署人工智能(AI)代理来处理付款、审批贷款及其他金融交易的企业可能面临代价高昂的错误。

数据库公司TiDB高级解决方案架构师Predee Kajonpai周三在马尼拉AI Vision Forum上向与会者表示,不准确或不同步的信息可能导致自主AI系统重复交易或作出错误的金融决策。他说,随着企业从对话式AI工具转向能够自主执行商业交易的系统——这一类别通常被称为代理式AI,即软件在有限的人工监督下规划并执行多步骤任务——相关风险变得更加严重。

"如果你向聊天机器人提问,它给出了错误答案,那没关系。我们再问一次就行了,"Kajonpai说。

"我们想要的是AI代理替你做生意。如果你的AI代理在贷款审批或付款过程中产生幻觉或犯错,会发生什么?那才是我们不希望发生的事,"他补充道。

数据基础设施成为瓶颈

Kajonpai表示,企业AI应用的主要障碍之一,是继续依赖无法实时提供最新信息的数据基础设施。当信息存储在相互分离的系统中时,可能在AI代理执行交易的时刻未能同步,从而增加出错或重复操作的可能性。

他通过一个假设情境说明了这种危险:一个AI代理处理了客户退款,但在系统中断后基于过时数据重启,未能识别出初始付款已经完成。

"如果客户投诉要求退还服务费用,AI第一次会退款,但如果它在过程中基于过时数据重启,就会操作两次,再退一次款,"Kajonpai说。

他认为,企业在部署AI代理处理金融交易及其他需要准确、最新信息的业务之前,需要先解决这些数据管理问题。

AI项目失败率高企

Kajonpai还援引估计称,多达95%的企业AI项目未能进入全面生产,尽管演讲中未说明相关研究的来源。

"也就是说,你投入了100%的资金,但只有5%进入全面生产,"他说。

他还提到了一项预测,即到2027年可能有40%的AI项目被取消。技术研究公司Gartner此前预测,由于成本不断攀升、商业价值不明确或风险控制不足,超过40%的代理式AI项目将在2027年底前被取消。

据Kajonpai称,过时数据和割裂的信息系统是可能影响自主AI应用部署的技术挑战之一。由于Gartner的预测覆盖至2027年底,AI试点与生产系统之间的差距——以及项目取消的速度——为业界观察这些技术与财务障碍如何演变提供了一个具体的检验节点。

提议采用统一平台

他提倡使用能够实时处理交易和分析的统一数据平台,以减少在相互分离的系统之间复制信息的需求。他说,这类平台可以帮助企业保持一致的交易记录,并降低AI代理重复已完成操作的风险。

"让AI代理在单一平台上运行可以消除重复操作,我们已经证明了这一点,"Kajonpai说。

TiDB提供的数据库技术旨在支持交易处理、实时分析以及AI相关应用。这一论点实际上将数据架构本身定位为一种风险控制手段,与Gartner所列举的导致代理式AI项目被取消的风险控制不足等因素相呼应。

— Juliana Chloe A. Gonzales

本文最初发表于 BusinessWorld。