Las empresas que implementan agentes de inteligencia artificial (IA) para procesar pagos, aprobar préstamos y gestionar otras transacciones financieras corren el riesgo de cometer errores costosos cuando los sistemas subyacentes operan con datos desactualizados o fragmentados, según un alto ejecutivo de tecnología.

Predee Kajonpai, arquitecto senior de soluciones de la empresa de bases de datos TiDB, dijo a los asistentes del AI Vision Forum Manila el miércoles que la información inexacta o no sincronizada puede hacer que los sistemas de IA autónomos repitan transacciones o tomen decisiones financieras incorrectas. Los riesgos, afirmó, se vuelven más graves a medida que las empresas pasan de las herramientas de IA conversacional a sistemas autónomos capaces de ejecutar transacciones comerciales por sí mismos, una categoría a menudo descrita como IA agéntica, en la que el software planifica y realiza tareas de múltiples pasos con una supervisión humana limitada.

“Si le haces una pregunta a un chatbot y te da una respuesta incorrecta, está bien. Simplemente la repetimos”, dijo Kajonpai.

“Lo que queremos es que el agente de IA haga negocios por ti. ¿Qué pasa si tu agente de IA alucina o comete un error durante una aprobación de préstamo o un pago? Eso es lo que no queremos que ocurra”, agregó.

La infraestructura de datos como cuello de botella

Uno de los principales obstáculos para la adopción de la IA empresarial, dijo Kajonpai, es la dependencia continua de una infraestructura de datos que no proporciona información actualizada en tiempo real. Cuando la información está almacenada en sistemas separados, puede no estar sincronizada en el momento en que los agentes de IA ejecutan transacciones, lo que aumenta la probabilidad de errores u operaciones duplicadas.

Ilustró el peligro con un escenario hipotético en el que un agente de IA procesa un reembolso a un cliente pero, tras una interrupción del sistema, se reinicia con datos obsoletos sin reconocer que el pago inicial ya se había completado.

“Si un cliente se queja de que quiere un reembolso por servicios, la IA lo reembolsa la primera vez, pero si se reinicia a mitad de camino con datos obsoletos, actúa dos veces y le reembolsa de nuevo”, dijo Kajonpai.

Argumentó que las empresas deben resolver estos problemas de gestión de datos antes de implementar agentes de IA para transacciones financieras y otras operaciones que requieren información precisa y actualizada.

Altas tasas de fracaso en iniciativas de IA

Kajonpai también citó estimaciones que sugieren que hasta el 95% de las iniciativas de IA empresarial no llegan a producción completa, aunque la fuente de investigación subyacente no fue identificada durante la presentación.

“Es decir, que inviertes el dinero al 100%, pero solo el 5% llega a producción completa”, dijo.

Además, se refirió a un pronóstico de que el 40% de los proyectos de IA podrían cancelarse para 2027. La firma de investigación tecnológica Gartner proyectó previamente que más del 40% de los proyectos de IA agéntica serían cancelados para fines de 2027 debido a costos crecientes, valor comercial poco claro o controles de riesgo inadecuados.

Según Kajonpai, los datos desactualizados y los sistemas de información fragmentados están entre los desafíos técnicos que podrían afectar el despliegue de aplicaciones de IA autónomas. Con la proyección de Gartner que abarca hasta fines de 2027, la brecha entre los pilotos de IA y los sistemas en producción —y el ritmo de cancelaciones de proyectos— le da a la industria un punto de control concreto para ver cómo se desarrollan estos obstáculos técnicos y financieros.

Plataformas unificadas como propuesta

Abogó por el uso de plataformas de datos unificadas capaces de gestionar transacciones y analítica en tiempo real, reduciendo la necesidad de copiar información entre sistemas separados. Dichas plataformas, dijo, podrían ayudar a las organizaciones a mantener registros de transacciones consistentes y reducir el riesgo de que los agentes de IA repitan operaciones ya completadas.

“Hacer que los agentes de IA operen en una sola plataforma elimina las acciones duplicadas, y ya lo hemos comprobado”, dijo Kajonpai.

TiDB proporciona tecnología de bases de datos diseñada para soportar el procesamiento de transacciones, la analítica en tiempo real y aplicaciones relacionadas con la IA. El argumento presenta efectivamente la arquitectura de datos como un control de riesgo en sí misma, haciendo eco de los controles de riesgo inadecuados que Gartner citó entre las razones por las que los proyectos de IA agéntica enfrentan cancelaciones.

— Juliana Chloe A. Gonzales

Esta historia apareció originalmente en BusinessWorld.