Zaawansowana sztuczna inteligencja skraca czas, jaki banki mają na naprawę luk w oprogramowaniu, zanim wykorzystają je napastnicy — wynika z nowego dokumentu Banku Rozrachunków Międzynarodowych (BIS).

Dokument Instytutu Stabilności Finansowej, opublikowany w środę, wpisuje się w najnowsze ostrzeżenia twórców AI i organów regulacyjnych sektora finansowego, że coraz bardziej zaawansowane modele przyspieszają cyberataki. Koncentruje się na zdolności banków do reagowania, wskazując, że instytucje muszą przyspieszyć zarówno naprawę oprogramowania, jak i decyzje niezbędne do jej zatwierdzenia.

„Najważniejszym osiągnięciem wynikającym z rozwoju frontier AI jest autonomiczne wykrywanie i wykorzystywanie luk” — napisali autorzy. Ostrzegli, że okresowe oceny bezpieczeństwa i zaplanowane aktualizacje stają się niewystarczające, ponieważ „okno między wykryciem luki a jej wykorzystaniem skróciło się z tygodni do minut”.

Dokument przywołuje przegląd przeprowadzony przez brytyjski Financial Conduct Authority, który wykazał, że tempo wykrywania luk przewyższa zdolność firm do reagowania. Odwołuje się także do wytycznych Institute of International Finance, w których banki zachęca się do szybszego instalowania poprawek — nawet poza zaplanowanymi oknami serwisowymi — oraz do większej akceptacji planowanych przestojów.

Według dokumentu odrębne, dobrowolne wytyczne brytyjskiej Cross Market Operational Resilience Group zakładają, że czas napraw może skrócić się z tygodni do dni, a w niektórych przypadkach do godzin.

Choć terminy opisane w raporcie są dobrowolne, organy nadzoru naciskają na banki, aby reagowały szybciej. Niemiecki BaFin wezwał do przyspieszenia instalowania poprawek, natomiast organ monetarny Hongkongu zaapelował o wzmocnienie zdolności reagowania na naruszenia i odzyskiwania sprawności. Dla banków oznacza to konieczność uwzględnienia zarządzania lukami w szerszym planowaniu odporności operacyjnej, w tym podejmowania decyzji o tym, kiedy systemy można wyłączyć w celu przeprowadzenia napraw oraz jak zapewnić ciągłość kluczowych usług podczas zakłóceń.

„Na przykład Hong Kong Monetary Authority zachęca instytucje do włączania scenariuszy cybernetycznych opartych na AI do programów odporności operacyjnej oraz do zwiększania zdolności reagowania na incydenty i odzyskiwania sprawności, uznając, że scenariusze «naruszeń» mogą stać się bardziej prawdopodobne wraz z dalszą ewolucją krajobrazu zagrożeń cybernetycznych” — stwierdzono w raporcie.

„Podobnie program testów warunków skrajnych w zakresie odporności cybernetycznej [Europejskiego Banku Centralnego] oraz wdrożenie Digital Operational Resilience Act podkreślają zdolność instytucji nie tylko do odpierania cyberataków, lecz także do dalszego świadczenia kluczowych usług podczas poważnych zakłóceń operacyjnych”.

Ostrzeżenie pojawia się po sierpniowym apelu o wzmocnienie cyberbezpieczeństwa, popartym przez OpenAI, Anthropic i ponad 100 innych organizacji. Sygnatariusze zarekomendowali zaostrzenie kontroli dostępu, szerszą wymianę informacji o zagrożeniach oraz dokładniejszy nadzór nad agentami AI.

Dokument BIS analizuje włamanie do Hugging Face z udziałem modeli OpenAI jako wstępny dowód na to, że możliwości demonstrowane w testach mogą przełożyć się na ataki na rzeczywiste systemy. OpenAI później opisało, w jaki sposób jego agenci koordynowali działania podczas operacji.

Autorzy zastrzegli, że standardowe zabezpieczenia zostały złagodzone, a napastnikom udostępniono znaczne zasoby obliczeniowe, co oznacza, że incydent ten nie odzwierciedla bezpośrednio zagrożeń stwarzanych przez publicznie dostępne narzędzia AI.

„Incydent z udziałem OpenAI nie wskazuje, że modele frontier AI mogą samodzielnie wykształcać złośliwe cele. Mogą jednak realizować wąsko zdefiniowane zadanie, powodując niezamierzone i szkodliwe konsekwencje” — napisali autorzy. „Znaczenie tego rozwoju dla odporności cybernetycznej polega na połączeniu zdolnego modelu z otaczającym go systemem oprogramowania, który umożliwia mu planowanie, korzystanie z narzędzi i autonomiczne działanie”