決済処理、融資承認、その他の金融取引を担う人工知能(AI)エージェントを導入する企業は、基盤となるシステムが陳腐化または分断されたデータ上で動作している場合、高コストなエラーのリスクに直面する可能性がある。あるテクノロジー業界の上級幹部がこう指摘した。

データベース企業TiDBのシニアソリューションアーキテクト、Predee Kajonpai氏は、水曜日にマニラで開催されたAI Vision Forum Manilaで、不正確または非同期の情報により、自律型AIシステムが取引を繰り返したり、誤った金融判断を下したりする可能性があると出席者に語った。同氏によれば、企業が対話型AIツールから、商取引を自律的に実行できるシステムへと移行するにつれ、こうしたリスクはさらに深刻になるという。ソフトウェアが限定的な人間の監督のもとで複数ステップのタスクを計画・実行するこのカテゴリは、一般に「エージェント型AI」と呼ばれている。

「チャットボットに質問して間違った答えが返ってきても、それは問題ありません。単にやり直すだけですから」とKajonpai氏は述べた。

「私たちが求めているのは、AIエージェントがあなたの代わりにビジネスを行うことです。しかし、融資審査や決済の際にAIエージェントが幻覚を見たりミスをしたりしたらどうなるでしょうか。それこそ起こってほしくないことです」と同氏は付け加えた。

データインフラがボトルネックに

Kajonpai氏によると、エンタープライズAI導入の主な障害の一つは、リアルタイムに更新された情報を提供しないデータインフラへの依存が続いていることだという。情報が別々のシステムに分散して保存されていると、AIエージェントが取引を実行する時点で同期されていない可能性があり、エラーや操作の重複のリスクが高まる。

同氏は、AIエージェントが顧客への返金を処理したものの、システム中断後に陳腐なデータ上で再起動し、最初の支払いがすでに完了していることを認識できないという仮想的なシナリオを挙げて、この危険性を説明した。

「顧客がサービスの返金を求めて苦情を申し立てた場合、AIは最初は返金します。しかし、途中で陳腐なデータをもとに再起動すると、二度動作してしまい、再び返金してしまうのです」とKajonpai氏は述べた。

同氏は、正確で最新の情報を必要とする金融取引やその他の業務にAIエージェントを展開する前に、企業はこうしたデータ管理の課題を解決する必要があると主張した。

AI取り組みの高い失敗率

Kajonpai氏はさらに、エンタープライズAI取り組みの最大95%が本番環境に到達できていないとの推計を引用した。ただし、基となる調査の出所は発表の中で明示されなかった。

「つまり、100%の資金を投じても、本番環境に到達するのはわずか5%だということです」と同氏は述べた。

また同氏は、2027年までに40%のAIプロジェクトが中止される可能性があるとの予測にも言及した。テクノロジー調査会社ガートナー(Gartner)は以前、コストの増大、不明確なビジネス価値、不十分なリスク管理を理由に、2027年末までに40%超のエージェント型AIプロジェクトが中止されると予測している。

Kajonpai氏によると、陳腐化したデータと分断された情報システムは、自律型AIアプリケーションの展開に影響を及ぼしうる技術的課題の一つだという。ガートナーの予測が2027年末まで及ぶ中、AIの実証実験と本番システムの間のギャップ、そしてプロジェクト中止のペースは、こうした技術的・財務的ハードルがどう推移するかを測る具体的な目安を業界に提供している。

統合プラットフォームの提言

同氏は、トランザクションと分析をリアルタイムで処理でき、別々のシステム間で情報をコピーする必要性を減らせる統合データプラットフォームの活用を提唱した。こうしたプラットフォームは、組織が一貫した取引記録を維持し、AIエージェントが完了済みの操作を繰り返すリスクを低減するのに役立つという。

「AIエージェントを単一のプラットフォーム上で動作させれば、重複した操作はなくなります。すでにそれを実証済みです」とKajonpai氏は述べた。

TiDBは、トランザクション処理、リアルタイム分析、AI関連アプリケーションを支援するよう設計されたデータベース技術を提供している。この議論は、データアーキテクチャ自体をリスク管理の一環として位置付けるものであり、ガートナーがエージェント型AIプロジェクト中止の理由として挙げた不十分なリスク管理を改めて浮き彫りにしている。

— Juliana Chloe A. Gonzales

本記事は元々BusinessWorldに掲載されたものです。