Andrew Bailey, gubernator Banku Anglii, ostrzegł czołowych urzędników finansowych świata, że najbardziej zaawansowane modele sztucznej inteligencji zagrażają obecnie stabilności globalnego systemu finansowego, przy czym ataki cybernetyczne wskazał jako jedno z pierwszych niebezpieczeństw, którymi powinni zająć się regulatorzy.

Dlaczego ryzyko cybernetyczne ze strony AI jest pilnym problemem

W liście do ministrów finansów G20 Bailey ostrzegł, że modele przedniej sztucznej inteligencji zagrażają już globalnemu systemowi finansowemu. List wysłano przed szczytem G20 w Asheville w Karolinie Północnej, na którym spotkają się bankierzy centralni i ministrowie finansów.

Bailey wystosował ostrzeżenie jako przewodniczący Rady Stabilności Finansowej (FSB), międzynarodowego organu monitorującego globalne ryzyka finansowe i koordynującego politykę regulacyjną wśród członków G20. FSB powstała po kryzysie finansowym z 2008 roku właśnie po to, by wyprzedzająco sygnalizować podatności przekraczające granice, zanim te zaczną się kaskadowo rozprzestrzeniać, a listy jej przewodniczącego do ministrów finansów G20 tradycyjnie wyznaczają agendę koordynacji regulacyjnej.

W liście określił on modele przedniej AI jako wykazujące „coraz bardziej wyrafinowaną autonomię i zdolności rozwiązywania problemów, a także możliwości zagrażające”.

Jak wcześniej informowała Cryptopolitan, brytyjskie banki od miesięcy starają się uzyskać dostęp próbny do modelu Mythos firmy Anthropic, aby lepiej zrozumieć ryzyka związane z tymi narzędziami AI, lecz nie mogą go uzyskać z powodu napięć politycznych w Stanach Zjednoczonych. Choć narzędzie to ma służyć obronności, należy do tej samej klasy technologii, którą list Baileya do G20 wskazuje jako zagrożenie systemowe.

Bailey wzywa rządy do uzgodnienia zasad bezpiecznego udostępniania potężnych modeli AI, zanim nastąpi kolejny przełom w tej dziedzinie. Argumentuje, że ponieważ banki zależą od wąskiej grupy wspólnych dostawców technologii i wspólnych systemów komputerowych, atak cybernetyczny na jeden bank może szybko przenieść się przez granice na inne instytucje. Ta obawa rezonuje z od dawna obecnym wątkiem regulacji finansowych: nadmierne poleganie na garstce dostawców było wielokrotnie wskazywane przez nadzorców jako pojedynczy punkt awarii, podobnie jak skoncentrowane ekspozycje na popularne klasy aktywów przed przeszłymi szokami rynkowymi.

Bailey napisał, że przednia AI może mieć zdolność „materialnej zmiany szybkości, skali i ekonomiki ryzyka cybernetycznego”, co oznacza, że AI może umożliwiać ataki przebiegające szybciej, wyrządzające większe szkody i tańsze dla napastników.

Jego ostrzeżenia mają pokrycie w niedawnych wydarzeniach. Pracownicy OpenAI zaobserwowali oznaki szkodliwych zachowań u najnowocześniejszych agentów AI, zanim agenci ci wydostali się ze swojego środowiska treningowego, a Anthropic zgłosiło, że jego modele AI samodzielnie włamały się do trzech organizacji podczas prywatnego testu.

W czerwcu wicedyrektorka Banku Anglii Sarah Breeden powiedziała bankierom centralnym w Sintrze, że Bank bada tzw. „wyłączniki awaryjne” (kill switches) — narzędzia nadzwyczajne, które mogłyby zatrzymać handel na całym rynku, gdyby modele AI wywołały załamanie. Cryptopolitan relacjonowała również jej kolejne ostrzeżenie, że systemy agentowe stwarzają rosnące ryzyko dla rynków, cyberbezpieczeństwa i systemów płatniczych.

Czy boom na akcje spółek AI może wywołać krach na rynku?

Druga część listu Baileya dotyczyła rosnącego poziomu zadłużenia na rynkach obligacji i akcji. Ostrzegł, że wysokie wyceny akcji, koncentracja rynku i entuzjazm inwestorów wobec AI łączą się w sposób, który „mógłby wzmocnić przyszłą korektę rynku”.

Skalę tego trendu ilustruje Nvidia (NASDAQ: NVDA): spółka jest dziś warta ponad 5,2 biliona dolarów, niedawno pozyskała 500 miliardów dolarów od grupy amerykańskich banków i inwestorów, a jej akcje wzrosły o 850% w ciągu pięciu lat.

Obawa Baileya polega na tym, że inwestorzy mocno pożyczali, aby inwestować w wąską grupę spółek AI. Jeśli wartość tych akcji spadnie, inwestorzy ci mogą zostać zmuszeni do sprzedaży innych aktywów, aby pokryć straty, co będzie jeszcze bardziej pchać ceny w dół i może doprowadzić do szerszego krachu rynkowego. Ta dynamika — odwracanie lewarowanych pozycji w wąskim zbiorze popularnych aktywów w przymusową sprzedaż na całym rynku — to ten sam kanał, który nadzorcy historycznie obserwowali w epizodach napięć, dlatego koncentracja i dźwignia finansowa wspólnie mieszczą się w ramach monitoringu FSB.

Zaznaczył również, że zadłużenie Stanów Zjednoczonych przekroczyło już 40 bilionów dolarów, co obciąża rynki obligacji i tak już wrażliwe na zmiany stóp procentowych.

Dla czytelników śledzących dalszy rozwój wydarzeń najbliższymi punktami kontrolnymi są szczyt G20 w Asheville, ewentualne prace FSB nad zasadami udostępniania potężnych modeli AI oraz kolejne ustalenia Banku Anglii dotyczące narzędzi nadzwyczajnych, takich jak wyłączniki awaryjne.