據一位資深科技業高層表示,企業部署人工智慧(AI)代理來處理付款、審批貸款及執行其他金融交易時,若底層系統依賴過時或分散的資料,可能面臨代價高昂的錯誤。

資料庫公司TiDB資深解決方案架構師Predee Kajonpai於週三在AI Vision Forum Manila向與會者表示,不準確或不同步的資訊可能導致自主AI系統重複交易或做出錯誤的財務決策。他表示,隨著企業從對話式AI工具轉向能夠自主執行商業交易的系統——這類常被稱為代理式AI的系統,即軟體在有限人類監督下規劃並執行多步驟任務——相關風險變得更加嚴重。

「如果你問聊天機器人一個問題,它給了錯誤答案,那沒關係,我們再問一次就好,」Kajonpai說。

「我們要的是AI代理替你做生意。如果你的AI代理在貸款審批或付款過程中產生幻覺或犯錯,那該怎麼辦?那是我們不希望發生的事,」他補充道。

資料基礎設施成為瓶頸

Kajonpai表示,企業採用AI的主要障礙之一,是持續依賴無法即時提供最新資訊的資料基礎設施。當資訊儲存在彼此分離的系統中時,AI代理執行交易的當下資料可能尚未同步,增加出錯或重複操作的風險。

他以上述情境說明風險:一名AI代理處理客戶退款後,在系統中斷後基於過時資料重新啟動,卻未察覺首筆付款已完成。

「如果客戶投訴要求服務退款,AI第一次會退款,但如果它在中途基於過時資料重新啟動,就會執行兩次,再退一次款,」Kajonpai說。

他認為,企業在部署AI代理執行金融交易及其他需要準確、最新資訊的作業之前,必須先解決這些資料管理問題。

AI計畫失敗率居高不下

Kajonpai也引述估計指出,多達95%的企業AI計畫未能達到全面投產,但他在演講中並未說明該研究的來源。

「意思是,你投入了100%的資金,卻只有5%達到全面投產,」他說。

他並提及一項預測,指出到2027年可能有40%的AI專案被取消。科技研究機構Gartner先前預測,由於成本不斷攀升、商業價值不明確或風險控制不足,超過40%的代理式AI專案將在2027年底前被取消。

據Kajonpai表示,資料過時與資訊系統分散,是可能影響自主AI應用部署的技術挑戰之一。由於Gartner的預測涵蓋至2027年底,AI試驗與生產系統之間的落差——以及專案被取消的速度——為業界提供了一個具體的檢視時點,觀察這些技術與財務障礙將如何演變。

提議採用統一平台

他主張採用能夠即時處理交易與分析的統一資料平台,減少跨系統複製資訊的需求。他表示,這類平台可協助組織維持一致的交易紀錄,並降低AI代理重複執行已完成操作的風險。

「讓AI代理在單一平台上運作可以消除重複操作,而我們已經證明了這一點,」Kajonpai說。

TiDB提供的資料庫技術旨在支援交易處理、即時分析以及AI相關應用。這一論點實際上將資料架構本身視為一種風險控制手段,呼應了Gartner所列代理式AI專案面臨取消的原因之一——風險控制不足。

— Juliana Chloe A. Gonzales

本文原刊載於 BusinessWorld。