Gubernator Fed Barr ostrzega, że AI może destabilizować system finansowy i wywoływać gwałtowne bankowe paniki
Najważniejsze informacje
- •Gubernator Fed Michael Barr ostrzegł na konferencji w Mediolanie, że szybkie wdrażanie AI w bankowości i na rynkach może zagrozić stabilności amerykańskiego systemu finansowego.
- •Barr powiedział, że narzędzia AI mogłyby skłaniać traderów korzystających z podobnych modeli do jednoczesnego kupna lub sprzedaży, umożliwiać automatycznym programom manipulowanie cenami oraz pozwalać agentom AI wypłacać depozyty szybciej, niż banki potrafią zareagować — co przywodzi na myśl klasyczne mechanizmy paniki bankowej.
- •Wskazał na finansowanie cyrkularne, w którym firmy AI pozyskują środki od inwestorów, którzy następnie sprzedają im usługi, oraz na rosnące zadłużenie dużych firm technologicznych, dostawców sprzętu i mniejszych startupów AI jako powiązania, które mogłyby rozprzestrzeniać i nasilać problemy, jeśli wzrost AI rozczaruje.
- •Barr przestrzegł, że AI mogłaby wzmacniać uprzedzenia w kredytowaniu konsumenckim i wspomagać hakerów atakujących systemy finansowe, zauważając, że twórcy mają trudności z utrzymaniem systemów dokładnych, zgodnych z prawem, wyjaśnialnych i spójnych.
- •Około 87% respondentów ankiety do listopadowego (13 listopada) raportu Fed o stabilności finansowej uznało AI za poważne ryzyko dla amerykańskiego systemu finansowego.

Gubernator Rezerwy Federalnej Michael Barr ostrzegł, że szybkie rozpowszechnianie się sztucznej inteligencji w bankowości i na rynkach może zagrozić stabilności amerykańskiego systemu finansowego. W przemówieniu w Mediolanie powiedział, że AI może skłaniać traderów do jednoczesnego kupowania lub sprzedawania, pozwalać automatycznym programom tradingowym na manipulowanie cenami oraz powodować, że deponenci będą masowo wycofywać pieniądze z banków znacznie szybciej, niż instytucje są w stanie sobie z tym poradzić.
Barr wygłosił to ostrzeżenie podczas Siódmej Corocznej Międzynarodowej Konferencji Association for Computing Machinery w Mediolanie we Włoszech. Jako urzędujący gubernator amerykańskiego banku centralnego — organu, który ustanawia i egzekwuje przepisy dla amerykańskich banków — jego uwagi mają wagę wykraczającą poza rutynowe przemówienie polityczne. Nie mówił o stopach procentowych ani o perspektywach gospodarki, skupiając się zamiast tego na rosnącym wykorzystaniu AI w bankowości, tradingu i codziennych usługach finansowych.
Ryzyka finansowania cyrkularnego w boomie AI
Gubernator wskazał na niebezpieczeństwa związane z finansowaniem cyrkularnym, w którym firmy AI pozyskują pieniądze od inwestorów, a następnie wydają je na usługi świadczone przez tych samych inwestorów. Takie ustalenia mogą sprawiać, że zaangażowane firmy wyglądają na bardziej odnoszące sukcesy, niż są w rzeczywistości.
Barr wyraził również obawy dotyczące tego, ile firm pożycza na budowę systemów AI, wskazując na pogłębiające się powiązania finansowe między dużymi firmami technologicznymi, dostawcami sprzętu i mniejszymi firmami AI. Jeśli firmy AI będą rosły wolniej lub zarabiały mniej niż oczekiwano, ostrzegł, te powiązania finansowe mogą powodować rozprzestrzenianie się i nasilanie problemów w całym systemie.
Jak agent AI może wywołać panikę bankową
Barr ostrzegł także przed narzędziami AI zarządzającymi pieniędzmi w imieniu klientów. Zauważył, że bankom może ogólnie być trudno zweryfikować, czy klient wyraził zgodę narzędziu AI na przemieszczanie środków, a nawet za zgodą takie narzędzia mogą pozostawać ryzykowne. Mogą — jak powiedział — wypłacać pieniądze z kont bankowych tak szybko, że banki miałyby niewiele czasu na reakcję, co potencjalnie mogłoby wywołać duże jednoczesne wypłaty przewyższające zabezpieczenia, na których banki obecnie polegają. Taki scenariusz odzwierciedla jedną z najstarszych słabości bankowości: szybkość, z jaką deponenci mogą działać jednocześnie.
Dodatkowo ostrzegł, że hakerzy mogliby wykorzystać AI do atakowania systemów finansowych, a narzędzia AI, które przestają przestrzegać swoich reguł, mogłyby znajdować i wykorzystywać słabości tych systemów.
Efekt stada, manipulacja i tendencyjne kredytowanie
Rynki finansowe mogą napotkać problemy, jeśli zbyt wielu traderów korzysta z podobnych narzędzi AI, ostrzegł Barr. Takie narzędzia mogłyby skłaniać traderów do jednoczesnego kupowania lub sprzedawania, powodując gwałtowne zmiany cen. Powiedział również, że programy tradingowe AI mogłyby same nauczyć się manipulowania cenami.
"Musimy zmniejszyć ryzyko, że AI wzmacnia uprzedzenia w kredytowaniu konsumenckim", stwierdził Barr podczas przemówienia. Ostrzegał również przed "zmową i manipulacją rynkową, znacznymi wahaniami rynkowymi, a nawet strategiami tradingowymi, które tworzą ryzyko systemowe".
Barr dodał, że nawet twórcy AI mają trudności z utrzymaniem swoich systemów pod kontrolą i zapewnieniem, że dostarczają dokładne wyniki i przestrzegają prawa. Stają oni również przed wyzwaniami w wyjaśnianiu, jak te systemy działają, i w zapewnianiu, że dają spójne rezultaty.
AI poważnym ryzykiem dla 87% ankietowanych
Przemówienie Barra nastąpiło wkrótce po tym, jak Rezerwa Federalna opublikowała 13 listopada swój raport o stabilności finansowej. Według BigGo Finance około 87% ankietowanych stwierdziło, że AI stanowi poważne ryzyko dla amerykańskiego systemu finansowego. Respondenci wymieniali obawy dotyczące cyberataków, złożonych transakcji finansowych z udziałem firm AI oraz możliwości, że wolniejszy wzrost zysków z AI mógłby zaszkodzić szerszemu rynkowi akcji. Szeroki zasięg tych odpowiedzi podkreśla, jak daleko obecnie sięgają obawy związane z AI w całym systemie finansowym.
Barr przemawiał zaledwie kilka godzin przed planowanym otwarciem przez przewodniczącego Fed Kevina Warsha osobnej konferencji zorganizowanej przez San Francisco Fed, na której twórcy AI, liderzy biznesu i badacze mieli omawiać, jak AI może wpłynąć na miejsca pracy, produktywność i gospodarkę — co pokazało zaangażowanie banku centralnego w temat AI podczas dwóch osobnych wydarzeń w ciągu jednego dnia.
Ostrzeżenia podkreślają rosnące obawy, że AI rozprzestrzenia się w branży finansowej szybciej, niż oczekiwali regulatorzy. Regulatorzy z kolei nadal pracują nad sposobami monitorowania tej technologii i zarządzania jej ryzykami. Dla banków, firm technologicznych i uczestników rynku sygnałami do obserwacji w najbliższym czasie są rezultaty konferencji San Francisco Fed oraz ewentualne dalsze działania regulacyjne.