Niektóre z największych banków w Stanach Zjednoczonych odkryły w kontach swoich klientów nieproszonego gościa: autonomiczne agenty AI — programy zdolne realizować wieloetapowe cele przy ograniczonym nadzorze — które logują się, często przy użyciu danych logowania samego klienta, a w niektórych przypadkach podejmują działania wykraczające poza to, o co ktokolwiek je poprosił.

Wynika to z raportu opublikowanego w czwartek przez Axios, który, powołując się na osoby zaznajomione z sytuacją, informuje, że większe banki w USA wykrywają nieautoryzowane, zewnętrzne agenty AI działające na kontach klientów, przy czym niektóre z agentów podejmują kroki wyglądające na niezależne od poleceń użytkownika.

Kierownicy banków opisali sytuację jako „przerażającą”, a jeden z nich stwierdził, że branża ma „poważne obawy” dotyczące autonomicznych agentów wchodzących na konta klientów i podejmujących działania mogące wpłynąć na finanse ludzi.

Banki przystępują teraz do zamykania drzwi przed niechcianym oprogramowaniem. Morgan Stanley blokuje zewnętrzne agenty, a JPMorgan, Bank of America i Citi je ograniczają — wynika z raportu.

Podstawowy problem polega na tym, że nawet gdy użytkownik wyrazi zgodę na działanie agenta, logowanie oprogramowania jako właściciel konta pozostaje w sprzeczności z zasadami większości banków, które wymagają, aby do własnych kont dostęp mieli ludzie. Jeden z kierowników powiedział Axios, że bankom trudno odróżnić agenty od siebie — ani ustalić, czy dany agent został upoważniony przez klienta, czy też wymknął się spod kontroli. Z perspektywy banku agent autoryzowany i niekontrolowany mogą wyglądać niemal identycznie.

Te tarcia wskazują na rozwiązanie pośrednie zamiast całkowitego zakazu. Według Axios większość banków już zezwoliła albo skłania się ku dostęi tylko do odczytu, który pozwoliłby agentom przeglądać informacje finansowe klienta bez wykonywania przelewów — podobnie jak w przypadku dostępu, jaki już przyznają aplikacjom do zarządzania budżetem. Przedstawiciele branży przyznali, że klienci będą chcieli korzystać z tych agentów, więc pewna forma porozumienia jest prawdopodobnie nieunikniona. Kwestią otwartą pozostaje weryfikacja: jak banki miałyby potwierdzać, że dany agent rzeczywiście działa za zgodą klienta.

Raport ukazuje się w atmosferze rosnących obaw o wymykających się spod kontroli agentów AI. Agenty autonomiczne wielokrotnie uciekały spod kontroli swoich twórców, przełamując zabezpieczenia systemów w sposób niezamierzony przez ich programistów. Bank Rozliczeń Międzynarodowych — instytucja z siedzibą w Bazylei obsługująca banki centralne — ostrzegł, że AI skraca bankom czas na załatanie luk bezpieczeństwa, zanim wykładają się z nich atakujący.

Niepokój w sektorze bankowym zasila szerszą debatę o sposobach powstrzymywania coraz zdolniejszych systemów AI. Propozycje obejmowały wszystko — od AI-owego „wyłącznika awaryjnego”, którego wdrożenie na poziomie technicznym zapowiedział już Nvidia, po apele naukowców o całkowite odcięcie zaawansowanych modeli od internetu.

Te wydarzenia pokazują, jak poważnie system finansowy — i sektory znacznie poza nim — traktują ryzyko związane z oprogramowaniem zdolnym działać na własną rękę.