AktualnościMakroBanki blokują agentów AI z powodów bezpieczeństwa... i obaw konkurencyjnych

Banki blokują agentów AI z powodów bezpieczeństwa... i obaw konkurencyjnych

Autor: Cointelegraph·

Najważniejsze informacje

  • •HSBC, Barclays, Lloyds, NatWest i Nationwide zablokowały lub ograniczyły dostęp zewnętrznych agentów AI do kont klientów, powołując się na obawy przed zbuntowanymi agentami i niejasną odpowiedzialnością, a nie na jakiekolwiek znane włamania.
  • •Ograniczenia różnią się od brytyjskiego reżimu open bankingu obowiązującego od 2018 roku, który nakazuje udostępnianie danych inicjowane przez klienta licencjonowanym podmiotom trzecim, a nie autonomiczne transakcje agentów.
  • •Badanie Banku Anglii i FCA wykazało, że choć 80% badanych firm wdrożyło agentów AI, tylko 2% używało agentów o szerokiej autonomii, wskazując bezpieczeństwo danych, zależności od podmiotów trzecich i ryzyko halucynacji.
  • •Amerykański Urząd Kontrolera Walutowego wydał 4 listopada ramy nadzorcze obejmujące korzystanie przez banki z agentowych systemów AI, oceniając ryzyko według poziomu autonomii i nadzoru ludzkiego, bez nakładania nowych wiążących wymogów.
  • •Główny ekonomista Apollo Torsten Slok ostrzegł, że masowe przenoszenie przez agentów gotówki gospodarstw domowych do alternatyw o wyższym oprocentowaniu mogłoby pozbawić banki taniego finansowania i stworzyć problem dla całego systemu finansowego.
Banki blokują agentów AI z powodów bezpieczeństwa... i obaw konkurencyjnych

Brytyjskie banki wyznaczyły granicę tego, jak daleki dostęp sztuczna inteligencja powinna mieć do pieniędzy swoich klientów. HSBC, Barclays, Lloyds, NatWest i Nationwide zablokowały lub ograniczyły dostęp zewnętrznych agentów AI — oprogramowania działającego przy minimalnym nadzorze człowieka — do kont klientów, zwłaszcza tam, gdzie systemy te mogą przeprowadzać transakcje bez udziału klienta.

Nie ma jeszcze dowodów na to, że agenci AI faktycznie uzyskali dostęp do brytyjskich kont bankowych, ale największe banki w kraju obawiają się tego, co stanie się, jeśli zautomatyzowany system błędnie zarządzi środkami klientów — a także tego, kto ostatecznie poniesie za to odpowiedzialność. Ograniczenia, o których poinformował The Telegraph, odzwierciedlają obawy przed zbuntowanymi agentami.

Ograniczenia te wyznaczają granicę odmienną od brytyjskiego reżimu open bankingu, obowiązującego od 2018 roku, na mocy którego największe banki w kraju muszą pozwalać klientom na udostępnianie danych o koncie licencjonowanym podmiotom trzecim — to ramy oparte na dostępie i płatnościach inicjowanych przez klienta, a nie na transakcjach, które agent sam postanawia wykonać.

Banki mogą mieć też inne, niewyartykułowane obawy — mianowicie to, co finanse agentowe mogą zrobić z ich modelami biznesowymi.

Edgars Nemše, dyrektor generalny GenLayer Foundation, projektu infrastruktury blockchain skoncentrowanego na AI, mówi, że rutynowe zadania bankowe, takie jak płacenie rachunków, przekazywanie pieniędzy i szukanie lepszych stawek, mogą zostać powierzone agentom. Niepokojąca konsekwencja dla banków jest taka, że agenci będą w stanie bezproblemowo znajdować klientom lepsze oferty gdzie indziej, w momencie gdy pojawią się w sieci.

„W przypadku zwykłych kont eliminuje to koszty zmiany banku i czyni tę przestrzeń jeszcze bardziej konkurencyjną” — powiedział Nemše Magazine.

Ryzyko „bankowego runu” wywołanego przez agentów

Ten scenariusz mógłby zagrozić czemuś więcej niż tylko lojalności klientów. We wrześniu Torsten Slok, główny ekonomista Apollo, ostrzegł przed możliwym „bankowym runem wywołanym przez agentów”.

Jeśli roje agentów zaczną masowo przenosić gotówkę gospodarstw domowych z niskoprocentowych kont rozliczeniowych do alternatyw oferujących wyższe stopy zwrotu, banki zostaną pozbawione taniego finansowania, od którego zależą przy udzielaniu kredytów — a szybkość i skala takiego przesunięcia „byłyby problemem dla całego systemu finansowego”.

Dyrektor generalny JPMorgan Chase Jamie Dimon również przestrzegał przed pozwalaniem zewnętrznym agentom na nieograniczony dostęp do kont bankowych. „Nie chcesz zbuntowanych agentów” — powiedział podczas październikowej konferencji wynikowej.

Niezależnie od krótkoterminowych działań na powstrzymanie tej fali agenci AI wyglądają coraz bardziej na tych, którzy w ciągu kilku lat zrewolucjonizują bankowość. Neeraj Makin, grupowy dyrektor analityki strategicznej w Emirates NBD, przewiduje, że agenci wprowadzą nową erę, w której bankowość całodobowa i niemal natychmiastowe płatności staną się normą do 2036 roku.

„Zapomnij o czekaniu 24 godziny na płatność czy o płatnościach międzypaństwowych trwających trzy dni… to wszystko będzie kwestią sekund, atomowo” — mówi, wskazując, że agenci AI przejmą większość decyzji finansowych.

Banki ryzykują utratę codziennego interfejsu klienta

Ferdinand Dabitz, dyrektor generalny Augustus, firmy bankowo-płatniczej natywnej dla AI, widzi podobną zmianę w tym, jak klienci wchodzą w interakcje z instytucjami finansowymi. „Każdy konsument będzie miał dziesiątki, a każda firma setki agentów rozmawiających z ich bankiem” — mówi Dabitz.

Interfejs ludzki pozostanie ważny — do zarządzania tymi agentami i zapewnienia warstwy zaufania, „szczególnie w bankowości korporacyjnej” — mówi.

Zespół doświadczeń deweloperskich Emirates NBD argumentował w lipcu, że instytucje finansowe powinny budować własne ramy dla agentowej AI, zamiast pozwalać poszczególnym zespołom na tworzenie agentów bez wspólnych kontroli. Jego rama Leap ma regulować, jak agenci uwierzytelniają się w podstawowych systemach bankowych, uzyskują dostęp do wrażliwych danych i wykonują działania, z wbudowanymi śladami audytowymi, monitorowaniem i nadzorem ludzkim.

Nadal istnieją jednak poważne obawy co do niezawodności agentów podejmujących samodzielnie istotne decyzje finansowe. Z najnowszego badania Banku Anglii i Financial Conduct Authority (FCA) wynika, że choć 80% respondentów wdrożyło agentów AI, tylko 2% używało agentów o szerokiej autonomii, wskazując bezpieczeństwo danych, zależności od podmiotów trzecich i ryzyka takie jak halucynacje jako największe obawy.

Od płacenia rachunków do podejmowania decyzji finansowych

Ta zmiana raczej nie nastąpi z dnia na dzień — „przyjdzie krokami” — mówi Nemše. „Obecnie co miesiąc używam agenta do przeglądu finansów moich i mojej firmy oraz do kolejki płatności, które ja zatwierdzam. Następny krok jest naturalny: gdy mu zaufasz, pozwalasz mu wydawać małe kwoty bez pytania”.

Rutynowe rachunki, subskrypcje i własne koszty operacyjne agenta byłyby według niego jednymi z pierwszych zadań, które staną się autonomiczne.

Dabitz mówi, że zarządzanie skarbcem korporacyjnym mogłoby być obszarem delegowanym agentom, choć banki będą musiały uczestniczyć w rozwijaniu tych wczesnych zastosowań.

Kto płaci, gdy agent się pomyli?

Chociaż konsumenci mogą cieszyć się korzyściami z automatyzacji swoich finansów, pytanie, kto ponosi odpowiedzialność, gdy agent popełni błąd, pozostaje otwarte.

Nemše mówi, że banki muszą oferować „delegowany dostęp jako standardową funkcję”, aby uniknąć udostępniania klientom loginów agentom. Klienci mogliby ustalać uprawnienia i limity wydatków, a agenci mogliby samodzielnie przeprowadzać transakcje o niskiej wartości, wymagając zatwierdzenia dla większych kwot.

Istniejące procesy rozpatrywania sporów mogą jednak mieć trudności, jeśli agenci zaczną wykonywać tysiące transakcji w imieniu każdego klienta. „Nawet niewielki odsetek błędów to mnóstwo sporów” — mówi Nemše. „Procesy ich obsługi były budowane dla ludzi wykonujących kilka płatności tygodniowo. Ta część wciąż musi powstać”.

Regulatorzy ruszają, by zdefiniować zasady

W Stanach Zjednoczonych Urząd Kontrolera Walutowego (OCC) — regulator przyznający licencje i nadzorujący amerykańskie banki krajowe — wydał ramy nadzorcze 4 listopada, obejmujące korzystanie przez banki z tego, co nazywa „nadinteligencją”, w tym systemów agentowych.

Ramy mają pomóc egzaminatorom bankowym oceniać, jak instytucje korzystają z tej technologii, i nie wprowadzają nowych wiążących wymogów dla banków. Nadzór powinien odzwierciedlać potencjalne konsekwencje działań agenta, jego poziom autonomii i stopień nadzoru ludzkiego.

System AI pomagający pracownikowi banku w przygotowaniu raportu stanowiłby na przykład inne ryzyko niż system uprawniony do przenoszenia środków klientów bez zatwierdzenia — a banki, które właściwie balansują te kwestie, prawdopodobnie wyjdą na prowadzenie.

W Wielkiej Brytanii, w przeciwieństwie do tego, ograniczenia pozostają dobrowolne: Bank Anglii i FCA jak dotąd mierzyły adopcję AI poprzez ankiety, a nie ustalały zasad dotyczących dostępu agentowego, i pozostaje kwestią otwartą, czy brytyjskie władze pójdą śladem OCC z własnymi formalnymi wytycznymi.