Les entreprises qui déploient des agents d'intelligence artificielle (IA) pour traiter des paiements, approuver des prêts et gérer d'autres transactions financières s'exposent à des erreurs coûteuses lorsque les systèmes sous-jacents reposent sur des données obsolètes ou fragmentées, selon un cadre dirigeant du secteur technologique.

Predee Kajonpai, architecte senior en solutions chez l'éditeur de bases de données TiDB, a indiqué aux participants de l'AI Vision Forum Manila, mercredi, que des informations inexactes ou non synchronisées peuvent amener des systèmes d'IA autonomes à répéter des transactions ou à prendre des décisions financières erronées. Selon lui, ces risques s'aggravent à mesure que les entreprises dépassent les outils d'IA conversationnelle pour adopter des systèmes autonomes capables d'exécuter eux-mêmes des transactions commerciales — une catégorie souvent désignée sous le terme d'IA agentique, dans laquelle le logiciel planifie et exécute des tâches en plusieurs étapes avec une supervision humaine limitée.

« Si vous posez une question à un chatbot et qu'il vous donne une mauvaise réponse, ce n'est pas grave. Nous la répétons simplement », a déclaré M. Kajonpai.

« Ce que nous voulons, c'est que l'agent d'IA fasse du commerce pour vous. Que se passe-t-il si votre agent d'IA hallucine ou commet une erreur lors d'une approbation de prêt ou d'un paiement ? C'est ce que nous ne voulons pas voir arriver », a-t-il ajouté.

L'infrastructure de données comme goulot d'étranglement

L'un des principaux obstacles à l'adoption de l'IA en entreprise, a expliqué M. Kajonpai, est la dépendance persistante envers une infrastructure de données qui ne fournit pas d'informations à jour en temps réel. Lorsque les informations sont stockées dans des systèmes distincts, elles peuvent ne pas être synchronisées au moment où les agents d'IA exécutent des transactions, ce qui accroît le risque d'erreurs ou d'opérations dupliquées.

Il a illustré ce danger par un scénario hypothétique dans lequel un agent d'IA traite le remboursement d'un client mais, après une interruption du système, redémarre sur des données périmées sans reconnaître que le paiement initial a déjà été effectué.

« Si un client se plaint et demande le remboursement d'un service, l'IA le rembourse une première fois, mais si elle redémarre en cours de route sur des données périmées, elle agit deux fois et le rembourse à nouveau », a indiqué M. Kajonpai.

Selon lui, les entreprises doivent résoudre ces problèmes de gestion des données avant de déployer des agents d'IA pour des transactions financières et d'autres opérations exigeant des informations exactes et à jour.

Des taux d'échec élevés pour les initiatives d'IA

M. Kajonpai a également cité des estimations selon lesquelles jusqu'à 95 % des initiatives d'IA en entreprise n'atteignent pas la production complète, bien que la source de recherche sous-jacente n'ait pas été identifiée lors de la présentation.

« Cela signifie que vous investissez à 100 %, mais que seuls 5 % atteignent la production complète », a-t-il déclaré.

Il a en outre évoqué une prévision selon laquelle 40 % des projets d'IA pourraient être annulés d'ici 2027. Le cabinet d'études technologiques Gartner avait précédemment projeté que plus de 40 % des projets d'IA agentique seraient annulés d'ici la fin 2027 en raison de coûts croissants, d'une valeur commerciale incertaine ou de contrôles des risques insuffisants.

Selon M. Kajonpai, les données obsolètes et les systèmes d'information fragmentés figurent parmi les défis techniques susceptibles d'affecter le déploiement des applications d'IA autonomes. Alors que la projection de Gartner court jusqu'à la fin de 2027, l'écart entre les projets pilotes d'IA et les systèmes en production — ainsi que le rythme des annulations — offre au secteur un point de contrôle concret pour observer l'évolution de ces obstacles techniques et financiers.

Des plateformes unifiées proposées

Il a plaidé pour l'utilisation de plateformes de données unifiées, capables de gérer les transactions et les analyses en temps réel, réduisant ainsi la nécessité de copier les informations entre des systèmes distincts. De telles plateformes, a-t-il précisé, pourraient aider les organisations à maintenir des enregistrements de transactions cohérents et à réduire le risque que des agents d'IA répètent des opérations déjà effectuées.

« Faire opérer les agents d'IA sur une plateforme unique élimine les actions dupliquées, et nous l'avons déjà démontré », a affirmé M. Kajonpai.

TiDB fournit une technologie de base de données conçue pour prendre en charge le traitement des transactions, les analyses en temps réel et les applications liées à l'IA. Cet argument présente en réalité l'architecture des données comme un contrôle des risques à part entière, en écho aux contrôles des risques insuffisants que Gartner a cités parmi les raisons d'annulation des projets d'IA agentique.

— Juliana Chloe A. Gonzales

Cet article est initialement paru sur BusinessWorld.