Unternehmen, die Künstliche-Intelligenz-(KI-)Agenten zur Abwicklung von Zahlungen, Genehmigung von Krediten und Durchführung anderer Finanztransaktionen einsetzen, riskieren kostspielige Fehler, wenn die zugrunde liegenden Systeme auf veralteten oder fragmentierten Daten basieren, so ein führender Technologie-Manager.

Predee Kajonpai, Senior Solution Architect beim Datenbankunternehmen TiDB, sagte den Teilnehmern des AI Vision Forum Manila am Mittwoch, dass ungenaue oder nicht synchronisierte Informationen dazu führen können, dass autonome KI-Systeme Transaktionen wiederholen oder falsche Finanzentscheidungen treffen. Die Risiken, so er, werden erheblicher, wenn Unternehmen über konversationelle KI-Tools hinaus zu autonomen Systemen übergehen, die eigenständig kommerzielle Transaktionen ausführen können — eine Kategorie, die oft als agentische KI bezeichnet wird, bei der Software mehrstufige Aufgaben mit begrenzter menschlicher Aufsicht plant und ausführt.

„Wenn Sie einem Chatbot eine Frage stellen und er eine falsche Antwort gibt, ist das in Ordnung. Wir wiederholen es einfach“, sagte Kajonpai.

„Was wir wollen, ist, dass der KI-Agent geschäftlich für Sie tätig wird. Was passiert, wenn Ihr KI-Agent halluziniert oder bei einer Kreditgenehmigung oder Zahlung einen Fehler macht? Genau das wollen wir nicht“, fügte er hinzu.

Dateninfrastruktur als Engpass

Eines der Haupthindernisse für die Einführung von KI in Unternehmen, so Kajonpai, sei die fortgesetzte Abhängigkeit von einer Dateninfrastruktur, die keine aktualisierten Informationen in Echtzeit liefert. Wenn Informationen über separate Systeme verteilt gespeichert sind, sind sie möglicherweise nicht synchronisiert, wenn KI-Agenten Transaktionen ausführen, was die Wahrscheinlichkeit von Fehlern oder duplizierten Vorgängen erhöht.

Er veranschaulichte die Gefahr an einem hypothetischen Szenario, in dem ein KI-Agent eine Kundenrückerstattung bearbeitet, aber nach einer Systemunterbrechung auf veralteten Daten neu startet, ohne zu erkennen, dass die ursprüngliche Zahlung bereits abgeschlossen war.

„Wenn ein Kunde reklamiert, dass er eine Rückerstattung für Dienstleistungen möchte, erstattet die KI ihm das erste Mal, aber wenn sie mitten im Vorgang auf veralteten Daten neu startet, handelt sie zweimal und erstattet erneut“, sagte Kajonpai.

Er argumentierte, dass Unternehmen diese Datenmanagement-Probleme lösen müssen, bevor sie KI-Agenten für Finanztransaktionen und andere Abläufe einsetzen, die genaue und aktuelle Informationen erfordern.

Hohe Fehlschlagquoten bei KI-Initiativen

Kajonpai verwies auch auf Schätzungen, wonach bis zu 95 % der KI-Initiativen von Unternehmen die volle Produktionsreife nicht erreichen, wobei die zugrunde liegende Forschungsquelle in der Präsentation nicht genannt wurde.

„Das heißt, Sie investieren das Geld zu 100 %, aber nur 5 % erreichen die volle Produktion“, sagte er.

Zudem verwies er auf eine Prognose, wonach 40 % der KI-Projekte bis 2027 storniert werden könnten. Das Technologie-Forschungsunternehmen Gartner hatte zuvor vorhergesagt, dass mehr als 40 % der agentischen KI-Projekte bis Ende 2027 storniert werden würden, aufgrund steigender Kosten, unklaren Geschäftswerts oder unzureichender Risikokontrollen.

Nach Angaben von Kajonpai gehören veraltete Daten und fragmentierte Informationssysteme zu den technischen Herausforderungen, die den Einsatz autonomer KI-Anwendungen beeinträchtigen könnten. Da Gartners Prognose bis Ende 2027 reicht, gibt die Lücke zwischen KI-Pilotprojekten und Produktionssystemen — und das Tempo der Projektcancellations — der Branche einen konkreten Prüfpunkt dafür, wie sich diese technischen und finanziellen Hürden entwickeln.

Einheitliche Plattformen vorgeschlagen

Er befürwortete den Einsatz einheitlicher Datenplattformen, die Transaktionen und Analytik in Echtzeit verarbeiten können, wodurch die Notwendigkeit entfällt, Informationen zwischen separaten Systemen zu kopieren. Solche Plattformen könnten Unternehmen laut ihm helfen, konsistente Transaktionsaufzeichnungen zu führen und das Risiko zu verringern, dass KI-Agenten abgeschlossene Vorgänge wiederholen.

„Wenn KI-Agenten auf einer einzigen Plattform arbeiten, werden doppelte Aktionen vermieden, und das haben wir bereits bewiesen“, sagte Kajonpai.

TiDB bietet Datenbanktechnologie, die Transaktionsverarbeitung, Echtzeitanalytik und KI-bezogene Anwendungen unterstützt. Das Argument stellt die Datenarchitektur letztlich als eigenständige Risikokontrolle dar, was die unzureichenden Risikokontrollen aufgreift, die Gartner als einen der Gründe für die Stornierung agentischer KI-Projekte nannte.

— Juliana Chloe A. Gonzales

Diese Geschichte erschien ursprünglich auf BusinessWorld.