Amerykański Urząd Kontrolera Waluty (OCC), organ nadzorujący banki krajowe, wydał pierwszy nadzorczy ramowy dokument dotyczący sztucznej inteligencji w bankowości, zalecając egzaminatorom, aby skupiali się mniej na tym, jak potężny jest dany system AI, a bardziej na tym, co się dzieje, gdy popełnia błąd.

Wielkości 22 stron ramowy dokument, wydany jako OCC Bulletin 2026-54 wraz z komunikatem prasowym, ostrzega w sekcji poświęconej odporności operacyjnej, że zewnętrzne agenty obsługiwane przez klientów, fintechy lub inne firmy mogą stwarzać ryzyko dla banków nawet wtedy, gdy banki nie kontrolują tych systemów. Regulator nie powiązał wydania dokumentu z konkretnymi incydentami, choć ukazał się on w czasie wzmożonych obaw branży o nieautoryzowanych agentów AI działających na kontach klientów.

Skutki ponad zaawansowaniem

Rdzeniem dokumentu jest rozróżnienie między zaawansowaniem technicznym systemu AI a szkodami, jakie może on wyrządzić. Prosty agent uprawniony do inicjowania transakcji finansowych może stwarzać większe ryzyko niż bardziej zaawansowany model ograniczony do pisania dokumentów wewnętrznych, powiedział regulator. To rozróżnienie odzwierciedla różnicę między oprogramowaniem agentowym a konwencjonalnymi narzędziami: agenty nie tylko generują tekst, lecz podejmują działania w połączonych systemach, więc potencjał szkód w razie awarii rośnie wraz z posiadanymi przez nie uprawnieniami.

Zgodnie z ramowym dokumentem egzaminatorzy mogą brać pod uwagę skutki awarii, możliwość odwrócenia działania oraz zakres kontroli zachowany przez ludzi nad systemem. Organ przedstawia cztery przykładowe poziomy ryzyka: w pełni autonomiczne agenty płatnicze oraz systemy podejmowania decyzji kredytowych w czasie rzeczywistym trafiają do najwyższej kategorii, podczas gdy podstawowe wewnętrzne narzędzia produkcyjne zajmują najniższą.

Systemy wyższego ryzyka mogą wymagać ostrzejszych ograniczeń autonomii, niezależnych testów oraz zatwierdzenia przez człowieka przed podjęciem działań o istotnych skutkach.

Ramowy dokument odnosi się także do systemów AI, które kontynuują działanie, podejmując szkodliwe decyzje. Proponowane zabezpieczenia obejmują wyłączniki awaryjne, limity częstotliwości, ograniczenie uprawnień i mechanizmy awaryjnego wyłączania.

W centrum uwagi: agenci AI osób trzecich

Wytyczne sugerują, aby egzaminatorzy brali pod uwagę środki obejmujące weryfikację tożsamości, delegowane uprawnienia, limity transakcyjne, monitoring oraz możliwość zawieszenia lub cofnięcia dostępu. Mają one rozwiązać dylemat, przed którym banki już stoją: jak pozwolić klientom korzystać z asystentów AI do zarządzania finansami bez zapewniania oprogramowaniu autonomicznemu nieograniczonego dostępu do kont.

Ramowy dokument ukazał się niecałe dwa tygodnie po doniesieniach, że największe banki wykrywały nieautoryzowanych agentów AI osób trzecich działających na kontach klientów, czasem podejmujących działania pozornie wykraczające poza polecenia użytkowników. Według raportu Axios z 22 października Morgan Stanley blokował agentów z zewnątrz, podczas gdy JPMorgan, Bank of America i Citi ograniczały dostęp. Kierownicy banków opisywali sytuację jako "przerażającą", co rodzi pytania o to, kto kontroluje autonomicznego agenta, gdy ten uzyska dostęp do czyichś pieniędzy.

Te rozważania są szczególnie istotne w odniesieniu do agentów zewnętrznych opisanych we wcześniejszym raporcie Axios, gdy banki ze trudem odróżniały legalne oprogramowanie autoryzowane przez klientów od systemów działających poza przewidzianymi dla nich uprawnieniami.

Wytyczne, a nie nowe przepisy bankowe

OCC podkreślił, że ramowy dokument jest niewiążący i nie tworzy nowych wymogów regulacyjnych ani egzekwowalnych standardów dla banków. Zamiast tego daje egzaminatorom sposób oceny AI w ramach istniejących kategorii ryzyka operacyjnego, zgodności i cyberbezpieczeństwa, a banki nie muszą tworzyć odrębnej kategorii ryzyka AI. Dokument zawiera przykłady zabezpieczeń dotyczących płatności autonomicznych, dostępu osób trzecich i nadzoru ludzkiego. Niewiążący charakter nie oznacza braku znaczenia: egzaminatorzy OCC oceniają banki na podstawie dokumentów tego typu podczas rutynowego nadzoru, więc proponowane zabezpieczenia mogą mieć praktyczną moc pomimo braku formalnych przepisów.

Ramowy dokument obejmuje AI wykorzystywane w płatnościach, wykrywaniu oszustw, obsłudze klienta i innych operacjach bankowych oraz rozszerza rozważania dotyczące ryzyka na zewnętrznych agentów AI łączących się przez kanały bankowe.

Co godne uwagi, dokument używa obowiązkowego terminu "Super Intelligence" — sformułowania, na którym administracja Donalda Trumpa nalega zamiast "sztucznej inteligencji", zgodnie z wrześniowym działaniem prezydenckim Białego Domu — ale jego zakres obejmuje konwencjonalne AI oraz "agentów autonomicznych", a nie tylko hipotetyczne systemy o inteligencji przewyższającej ludzkie możliwości.

OCC oświadczył, że zamierza aktualizować wytyczne wraz z rozwojem technologii. Na razie jego przykładowa skala ryzyka umieszcza autonomiczne agenty płatnicze w kategorii najwyższego ryzyka, niezależnie od tego, jak dobrze radzą sobie w testach. Jak egzaminatorzy zastosują te poziomy w praktyce — zwłaszcza wobec agentów osób trzecich, które banki wykrywały na kontach klientów — to szczegół, na który warto zwracać uwagę w miarę rozwoju wytycznych.

Ta historia została pierwotnie opisana przez Decrypt.