Le aziende che impiegano agenti di intelligenza artificiale (IA) per elaborare pagamenti, approvare prestiti e gestire altre transazioni finanziarie rischiano errori costosi quando i sistemi sottostanti si basano su dati obsoleti o frammentati, secondo un dirigente del settore tecnologico.

Predee Kajonpai, senior solution architect dell'azienda di database TiDB, ha detto ai partecipanti all'AI Vision Forum Manila mercoledì che informazioni imprecise o non sincronizzate possono far sì che sistemi di IA autonomi ripetano transazioni o prendano decisioni finanziarie errate. I rischi, ha aggiunto, diventano più seri man mano che le aziende vanno oltre gli strumenti conversazionali di IA verso sistemi autonomi in grado di eseguire transazioni commerciali in autonomia — una categoria spesso descritta come IA agentica, in cui il software pianifica e svolge attività in più fasi con una supervisione umana limitata.

"Se fai una domanda a un chatbot e ti dà una risposta sbagliata, va bene. La ripetiamo semplicemente", ha detto Kajonpai.

"Quello che vogliamo è che l'agente IA faccia affari per te. Cosa succede se il tuo agente IA allucina o commette un errore durante l'approvazione di un prestito o un pagamento? È quello che non vogliamo che accada", ha aggiunto.

L'infrastruttura dati come collo di bottiglia

Uno dei principali ostacoli all'adozione dell'IA nelle aziende, ha detto Kajonpai, è la continua dipendenza da un'infrastruttura dati che non fornisce informazioni aggiornate in tempo reale. Quando le informazioni sono archiviate in sistemi separati, potrebbero non essere sincronizzate al momento in cui gli agenti IA eseguono le transazioni, aumentando la probabilità di errori o operazioni duplicate.

Ha illustrato il pericolo con uno scenario ipotetico in cui un agente IA elabora un rimborso per un cliente ma, dopo un'interruzione di sistema, si riavvia su dati non aggiornati senza riconoscere che il pagamento iniziale è già stato completato.

"Se un cliente si lamenta e vuole un rimborso per dei servizi, l'IA lo rimborsa la prima volta, ma se si riavvia a metà su dati obsoleti, agisce due volte e lo rimborsa di nuovo", ha detto Kajonpai.

Ha sostenuto che le aziende devono risolvere questi problemi di gestione dei dati prima di distribuire agenti IA per transazioni finanziarie e altre operazioni che richiedono informazioni accurate e aggiornate.

Alti tassi di fallimento per le iniziative di IA

Kajonpai ha anche citato stime secondo cui fino al 95% delle iniziative di IA aziendali non arriva alla produzione completa, anche se la fonte della ricerca non è stata identificata durante la presentazione.

"Nel senso che investi il denaro al 100%, ma solo il 5% arriva alla produzione completa", ha detto.

Ha inoltre indicato una previsione secondo cui il 40% dei progetti di IA potrebbe essere annullato entro il 2027. La società di ricerca tecnologica Gartner aveva precedentemente proiettato che oltre il 40% dei progetti di IA agentica sarebbe stato annullato entro la fine del 2027 a causa di costi in crescita, valore aziendale poco chiaro o controlli del rischio inadeguati.

Secondo Kajonpai, i dati obsoleti e i sistemi informativi frammentati sono tra le sfide tecniche che potrebbero influire sulla distribuzione delle applicazioni di IA autonome. Con la proiezione di Gartner che arriva fino alla fine del 2027, il divario tra progetti pilota di IA e sistemi di produzione — e il ritmo delle cancellazioni dei progetti — offre al settore un punto di controllo concreto su come si svilupperanno questi ostacoli tecnici e finanziari.

Piattaforme unificate proposte

Ha auspicato l'uso di piattaforme dati unificate in grado di gestire transazioni e analisi in tempo reale, riducendo la necessità di copiare informazioni tra sistemi separati. Tali piattaforme, ha detto, potrebbero aiutare le organizzazioni a mantenere registrazioni delle transazioni coerenti e a ridurre il rischio che gli agenti IA ripetano operazioni già completate.

"Far operare gli agenti IA su un'unica piattaforma elimina le azioni duplicate, e lo abbiamo già dimostrato", ha detto Kajonpai.

TiDB fornisce tecnologia di database progettata per supportare l'elaborazione delle transazioni, le analisi in tempo reale e le applicazioni legate all'IA. L'argomento di fatto presenta l'architettura dei dati come un controllo del rischio a tutti gli effetti, facendo eco ai controlli del rischio inadeguati che Gartner ha citato tra le ragioni dell'annullamento dei progetti di IA agentica.

— Juliana Chloe A. Gonzales

Questa storia è apparsa originariamente su BusinessWorld.