Firmy, które wdrażają agentów sztucznej inteligencji (AI) do przetwarzania płatności, zatwierdzania kredytów i obsługi innych transakcji finansowych, ryzykują kosztowne błędy, gdy bazowe systemy opierają się na nieaktualnych lub rozproszonych danych — zgodnie z opinią doświadczonego menedżera branży technologicznej.

Predee Kajonpai, starszy architekt rozwiązań w firmie bazodanowej TiDB, powiedział uczestnikom AI Vision Forum Manila w środę, że niedokładne lub niesynchronizowane informacje mogą powodować, że autonomiczne systemy AI będą powtarzać transakcje lub podejmować błędne decyzje finansowe. Jak zaznaczył, ryzyko rośnie, gdy firmy wykraczają poza konwersacyjne narzędzia AI w stronę autonomicznych systemów zdolnych do samodzielnego wykonywania transakcji handlowych — kategorii często określanej jako agentowe AI, w której oprogramowanie planuje i realizuje wieloetapowe zadania przy ograniczonym nadzorze człowieka.

„Jeśli zadasz chatbotowi pytanie, a on udzieli błędnej odpowiedzi, to nic złego. Po prostu powtarzamy zapytanie” — powiedział Kajonpai.

„Chodzi o to, aby agent AI prowadził za Ciebie interesy. Co się stanie, jeśli Twój agent AI pojawi się halucynacje lub popełni błąd podczas zatwierdzania kredytu lub płatności? Tego właśnie nie chcemy” — dodał.

Infrastruktura danych jako wąskie gardło

Jedną z głównych przeszkód we wdrażaniu AI w przedsiębiorstwach jest, zdaniem Kajonpaia, dalsze poleganie na infrastrukturze danych, która nie dostarcza zaktualizowanych informacji w czasie rzeczywistym. Gdy informacje są przechowywane w osobnych systemach, mogą nie być zsynchronizowane w momencie, gdy agenci AI wykonują transakcje, co zwiększa ryzyko błędów lub zduplikowanych operacji.

Niebezpieczeństwo zilustrował hipotetycznym scenariuszem, w którym agent AI przetwarza zwrot środków dla klienta, ale po przerwie w działaniu systemu uruchamia się ponownie na nieaktualnych danych, nie rozpoznając, że pierwotna płatność została już zrealizowana.

„Jeśli klient skarży się, że chce otrzymać zwrot pieniędzy za usługi, AI zwraca mu je za pierwszym razem, ale jeśli system uruchamia się ponownie w trakcie na nieaktualnych danych, działa dwa razy i zwraca środki ponownie” — powiedział Kajonpai.

Twierdził, że firmy muszą rozwiązać te problemy z zarządzaniem danymi przed wdrożeniem agentów AI do transakcji finansowych i innych operacji wymagających dokładnych, aktualnych informacji.

Wysoki wskaźnik niepowodzeń inicjatyw AI

Kajonpai powołał się także na szacunki sugerujące, że nawet 95% korporacyjnych inicjatyw AI nie osiąga pełnej produkcji, choć źródło tych badań nie zostało wskazane podczas prezentacji.

„To znaczy, że inwestujesz w 100%, ale do pełnej produkcji dociera tylko 5%” — powiedział.

Wskazał również na prognozę, according to której 40% projektów AI może zostać anulowanych do 2027 roku. Firma badawcza Gartner wcześniej przewidywała, że ponad 40% projektów agentowego AI zostanie anulowanych do końca 2027 roku z powodu rosnących kosztów, niejasnej wartości biznesowej lub niewystarczającej kontroli ryzyka.

Według Kajonpaia nieaktualne dane i rozproszone systemy informatyczne należą do wyzwań technicznych, które mogą wpłynąć na wdrażanie autonomicznych aplikacji AI. Ponieważ prognoza Gartnera obejmuje okres do końca 2027 roku, luka między pilotami AI a systemami produkcyjnymi — oraz tempo anulowania projektów — daje branży konkretny punkt odniesienia dla tego, jak te przeszkody techniczne i finansowe się rozwiną.

Propozycja ujednoliconych platform

Opowiadał się za wykorzystaniem ujednoliconych platform danych, zdolnych do obsługi transakcji i analiz w czasie rzeczywistym, co zmniejsza potrzebę kopiowania informacji między osobnymi systemami. Takie platformy, jak powiedział, mogą pomóc organizacjom w utrzymaniu spójnych zapisów transakcji i zmniejszeniu ryzyka powtarzania przez agentów AI już wykonanych operacji.

„Uruchomienie agentów AI na jednej platformie eliminuje zduplikowane działania — i już to udowodniliśmy” — powiedział Kajonpai.

TiDB dostarcza technologię bazodanową zaprojektowaną do obsługi przetwarzania transakcji, analiz w czasie rzeczywistym i aplikacji związanych z AI. Ten argument przedstawia architekturę danych jako samo w sobie narzędzie kontroli ryzyka, co pokrywa się z niewystarczającą kontrolą ryzyka wskazaną przez Gartnera wśród powodów anulowania projektów agentowego AI.

— Juliana Chloe A. Gonzales

Ta historia pierwotnie ukazała się w BusinessWorld.