Компании, внедряющие агентов искусственного интеллекта (ИИ) для обработки платежей, одобрения кредитов и выполнения других финансовых транзакций, рискуют столкнуться с дорогостоящими ошибками, если базовые системы работают на устаревших или разрозненных данных, считает старший руководитель в технологической отрасли.

Преди Каджонпай, старший архитектор решений базы данных компании TiDB, рассказал участникам форума AI Vision Forum Manila в среду, что неточная или несинхронизированная информация может привести к тому, что автономные ИИ-системы будут повторять транзакции или принимать неверные финансовые решения. По его словам, риски возрастают по мере того, как компании переходят от диалоговых ИИ-инструментов к автономным системам, способным самостоятельно совершать коммерческие транзакции — категория, которую часто описывают термином «агентный ИИ», когда ПО планирует и выполняет многоэтапные задачи с ограниченным участием человека.

«Если вы задаете чат-боту вопрос и он дает неверный ответ, это нормально. Мы просто повторяем его», — сказал Каджонпай.

«Мы хотим, чтобы ИИ-агент вел бизнес за вас. Что произойдет, если ваш ИИ-агент галлюцинирует или ошибется при одобрении кредита или платеже? Этого мы не хотим допустить», — добавил он.

Инфраструктура данных как узкое место

По словам Каджонпая, одним из главных препятствий для внедрения ИИ в бизнесе остается зависимость от инфраструктуры данных, не предоставляющей актуальную информацию в реальном времени. Когда информация хранится в отдельных системах, она может оказаться несинхронизированной в момент, когда ИИ-агенты выполняют транзакции, что повышает вероятность ошибок или дублирования операций.

Он проиллюстрировал опасность гипотетическим сценарием, в котором ИИ-агент обрабатывает возврат средств клиенту, но после сбоя в системе перезапускается на устаревших данных, не распознав, что первоначальный платеж уже выполнен.

«Если клиент жалуется, что хочет вернуть деньги за услуги, ИИ возвращает их в первый раз, но если он перезапускается посреди процесса на устаревших данных, он действует дважды и возвращает деньги снова», — сказал Каджонпай.

Он отметил, что компаниям необходимо решить эти проблемы управления данными до развертывания ИИ-агентов для финансовых транзакций и других операций, требующих точной и актуальной информации.

Высокий уровень провалов ИИ-инициатив

Каджонпай также привел оценки, согласно которым до 95% корпоративных ИИ-инициатив не доходят до полноценного внедрения, хотя первоисточник исследования не был назван в ходе выступления.

«То есть вы вкладываете деньги на 100%, но лишь 5% доходят до полноценного внедрения», — сказал он.

Он также сослался на прогноз, согласно которому 40% ИИ-проектов могут быть отменены к 2027 году. Исследовательская компания в области технологий Gartner ранее прогнозировала, что более 40% проектов агентного ИИ будут отменены к концу 2027 года из-за растущих затрат, неясной бизнес-ценности или неадекватных мер контроля рисков.

По словам Каджонпая, устаревшие данные и разрозненные информационные системы входят в число технических проблем, которые могут повлиять на развертывание автономных ИИ-приложений. Поскольку прогноз Gartner рассчитан до конца 2027 года, разрыв между ИИ-пилотами и производственными системами — и темпы отмены проектов — дают отрасли конкретную контрольную точку для оценки того, как эти технические и финансовые препятствия скажутся на результатах.

Предложение единых платформ

Он выступил за использование единых платформ данных, способных обрабатывать транзакции и аналитику в реальном времени, что сокращает необходимость копировать информацию между отдельными системами. По его словам, такие платформы могут помочь организациям вести согласованные записи о транзакциях и снизить риск повторения ИИ-агентами уже выполненных операций.

«Работа ИИ-агентов на единой платформе устраняет дублирующие действия, и мы это уже доказали», — сказал Каджонпай.

TiDB предоставляет технологию баз данных, предназначенную для поддержки обработки транзакций, аналитики в реальном времени и приложений, связанных с ИИ. Этот тезис фактически представляет архитектуру данных как самостоятельный инструмент контроля рисков, перекликаясь с неадекватными мерами контроля рисков, которые Gartner назвала среди причин отмены проектов агентного ИИ.

— Juliana Chloe A. Gonzales

Этот материал впервые был опубликован на BusinessWorld.