Bedrijven die kunstmatige-intelligentieagenten (AI) inzetten om betalingen te verwerken, leningen goed te keuren en andere financiële transacties uit te voeren, lopen het risico op kostbare fouten wanneer de onderliggende systemen draaien op verouderde of gefragmenteerde data, volgens een senior technoloog.

Predee Kajonpai, senior solution architect bij databasebedrijf TiDB, vertelde bezoekers van het AI Vision Forum Manila woensdag dat onnauwkeurige of niet-gesynchroniseerde informatie autonome AI-systemen ertoe kan brengen transacties te herhalen of verkeerde financiële beslissingen te nemen. De risico's worden volgens hem groter naarmate bedrijven verder gaan dan conversationele AI-tools richting autonome systemen die zelfstandig commerciële transacties kunnen uitvoeren — een categorie die vaak wordt aangeduid als agentic AI, waarbij software meerstaps-taken plant en uitvoert met beperkt menselijk toezicht.

“Als je een chatbot een vraag stelt en hij geeft een verkeerd antwoord, is dat niet erg. We herhalen het gewoon,” zei Kajonpai.

“Wat we willen, is dat de AI-agent zaken voor je doet. Wat gebeurt er als je AI-agent hallucineert of een fout maakt tijdens een leninggoedkeuring of betaling? Dát willen we niet gebeuren,” voegde hij eraan toe.

Data-infrastructuur als knelpunt

Een van de belangrijkste obstakels voor de adoptie van AI in bedrijven is volgens Kajonpai de aanhoudende afhankelijkheid van data-infrastructuur die geen realtime bijgewerkte informatie levert. Wanneer informatie over afzonderlijke systemen is verspreid, is deze mogelijk niet gesynchroniseerd op het moment dat AI-agenten transacties uitvoeren, waardoor de kans op fouten of gedupliceerde handelingen toeneemt.

Deze gevaren illustreerde hij met een hypothetisch scenario waarin een AI-agent een klantterugbetaling verwerkt maar na een systeemonderbreking opnieuw start op verouderde data zonder te herkennen dat de initiële betaling al is voltooid.

“Als een klant klaagt dat hij een terugbetaling voor diensten wil, betaalt de AI hem de eerste keer terug, maar als hij middenin herstart op verouderde data, handelt hij tweemaal en betaalt hem opnieuw terug,” zei Kajonpai.

Bedrijven moeten deze datamanagementkwesties oplossen voordat ze AI-agenten inzetten voor financiële transacties en andere operationele processen die accurate, actuele informatie vereisen, betoogde hij.

Hoge mislukkingspercentages bij AI-initiatieven

Kajonpai verwees ook naar schattingen dat zelfs 95% van de enterprise AI-initiatieven de volledige productiefase niet haalt, al werd de onderliggende onderzoeksbron tijdens de presentatie niet genoemd.

“Dat betekent dat je 100% van het geld investeert, maar slechts 5% de volledige productie haalt,” zei hij.

Daarnaast wees hij op een prognose dat 40% van de AI-projecten tegen 2027 geannuleerd zou kunnen worden. Technologisch onderzoeksbureau Gartner projecteerde eerder dat meer dan 40% van de agentic AI-projecten eind 2027 geannuleerd zou zijn vanwege oplopende kosten, onduidelijke bedrijfswaarde of ontoereikende risicobeheersing.

Verouderde data en gefragmenteerde informatiesystemen behoren volgens Kajonpai tot de technische uitdagingen die de uitrol van autonome AI-toepassingen kunnen beïnvloeden. Nu Gartners projectie doorloopt tot eind 2027, vormen de kloof tussen AI-pilots en productiesystemen — en het tempo van projectannuleringen — een concreet ijkpunt voor de sector om te zien hoe deze technische en financiële hindernissen zich ontvouwen.

Uniforme platforms voorgesteld

Hij pleitte voor het gebruik van uniforme dataplatforms die in staat zijn transacties en analytics in realtime af te handelen, waardoor het niet langer nodig is informatie over afzonderlijke systemen te kopiëren. Dergelijke platforms kunnen organisaties helpen consistente transactieregistraties te onderhouden en het risico verkleinen dat AI-agenten voltooide handelingen herhalen, zei hij.

“Dat AI-agenten op één platform opereren, verwijdert dubbele handelingen, en dat hebben we al bewezen,” zei Kajonpai.

TiDB levert databasetechnologie die is ontworpen om transactieverwerking, realtime analytics en AI-gerelateerde toepassingen te ondersteunen. Het argument positioneert data-architectuur effectief als een risicobeheersmaatregel op zichzelf, in lijn met de ontoereikende risicobeheersing die Gartner noemde als een van de redenen waarom agentic AI-projecten worden geannuleerd.

— Juliana Chloe A. Gonzales

Dit verhaal verscheen oorspronkelijk op BusinessWorld.