OpenAI opublikowało w czwartek list, w którym ostrzega, że w ciągu kilku miesięcy modele sztucznej inteligencji (AI) mogą stać się na tyle potężne, by umożliwić podmiotom złośliwym przeprowadzanie coraz bardziej wyrafinowanych cyberataków na szpitale, oczyszczalnie ścieków i inną infrastrukturę krytyczną. Sektory takie jak ochrona zdrowia i gospodarka wodna od dawna uważane są za atrakcyjne cele dla atakujących, ponieważ przestarzałe systemy i konsekwencje dla bezpieczeństwa życia pozostawiają im niewielką tolerancję na przestoje — obawa, która w ostatnich latach skłoniła rząd USA do wielokrotnych ostrzeżeń dotyczących zabezpieczania technologii operacyjnych.

List podpisało ponad 100 firm z sektorów bankowości, technologii i cyberbezpieczeństwa, w tym Accenture, Anthropic, Capital One, Google, Microsoft i Visa. Rozpiętość sygnatariuszy jest godna uwagi, ponieważ banki i sieci płatnicze — sektory działające już w ramach formalnych struktur publiczno-prywatnego udostępniania informacji o zagrożeniach, takich jak organ wymiany informacji wywiadowczych amerykańskiego sektora finansowego — rzadko koordynują wspólne oświadczenia bezpieczeństwa razem z konkurującymi laboratoriami AI. List podpisała także Hugging Face, repozytorium otwartych modeli AI, którego systemy zostały zhakowane w lipcu przez agenta OpenAI.

„Dzisiejszy postęp AI daje już obrońcom nowe sposoby naprawiania słabości, które nagromadziły się przez lata. Jeśli zdecydowanie zadziałamy, możemy wykorzystać okienko obrońców, by uczynić nasz cyfrowy świat znacznie bezpieczniejszym” — brzmi fragment listu.

Wezwania skierowane do organizacji i rządów

Aby sprostać zagrożeniu, OpenAI wezwało wszystkie organizacje, by uczyniły obronę przed cyberprzestępczością „natychmiastowym priorytetem kierownictwa”. Zgodnie z listem organizacje zajmujące się cyberbezpieczeństwem muszą „przewodzić reakcji obronnej przed trwałymi atakami z użyciem AI, w tym nieustannie testować obronę wobec frontierowych zdolności cybernetycznych, wzmacniać istniejące narzędzia za pomocą AI i współpracować z partnerami technologicznymi, aby już teraz zamykać luki”.

Rządy na całym świecie również otrzymały wezwanie do działania — OpenAI stwierdziło, że powinny wzmacniać cyberobronę na poziomie lokalnym, krajowym i międzynarodowym.

„Dajcie szpitalom, przedsiębiorstwom wodociągowym i samorządom dostęp do sprawnej defensywnej AI, upoważnionego testowania i praktycznego wsparcia poprzez zaufanych dostawców zabezpieczeń i partnerów. Nakładajcie koszty na atakujących” — zwróciło się OpenAI do organów rządowych w liście.

W części listu skierowanej do „firm frontier AI” OpenAI stwierdziło, że takie przedsiębiorstwa powinny zapewnić operatorom infrastruktury krytycznej dostęp do potężnych modeli, finansowania, szkoleń i pomocy technicznej. Operatorzy z kolei powinni — zdaniem OpenAI — budować narzędzia śledzące sposób wykorzystania agentów AI, testować systemy pod kątem podatności, odpowiedzialnie naprawiać problemy oraz dzielić się przydatnymi informacjami o bezpieczeństwie z rządami i innymi obrońcami. Nacisk na wymianę informacji nawiązuje do utrwalonych struktur, takich jak koordynacyjna rola CISA w zakresie bezpieczeństwa infrastruktury krytycznej, co sugeruje, że list ma na celu rozszerzenie istniejących kanałów obrony, a nie ich zastąpienie.

Wcześniejsze cyberataki z użyciem AI

Doszło już do liczby cyberataków z użyciem AI. Najbardziej głośnym przypadkiem był zarzut Anthropic wobec grupy wspieranej przez chińskie państwo, która we wrześniu zeszłego roku miała manipulować jego narzędziem Claude Code w celu próby zhakowania 30 celów na świecie, z czego kilka miało zostać naruszonych.

„To pierwszy udokumentowany przypadek, w którym agentowa AI z powodzeniem uzyskała dostęp do potwierdzonych celów o wysokiej wartości w celu gromadzenia informacji wywiadowczych” — stwierdził raport incydentowy Anthropic.

Anthropic nie wskazał ofiar, ale poinformował, że wśród celów znalazły się duże firmy technologiczne, instytucje finansowe, przedsiębiorstwa produkcji chemicznej oraz rządy.

Anthropic jest również liderem branżowym w ostrzeganiu, że szybko rozwijająca się AI musi być kontrolowana, aby uniknąć katastrofalnych ataków na infrastrukturę cywilną. W kwietniu firma ogłosiła Project Glasswing, inicjatywę mającą na celu zabezpieczenie najważniejszego oprogramowania na świecie. W tym ogłoszeniu Anthropic stwierdziło, że jeden z jego modeli frontier, Claude Mythos, osiągnął „poziom zdolności programistycznych, przy którym może przewyższyć wszystkich poza najbardziej wykwalifikowanymi ludźmi w znajdowaniu i wykorzystywaniu podatności oprogramowania”.

Horyzont czasowy listu — ostrzegającego przed zagrożeniami nadchodzącymi „w ciągu kilku miesięcy” — wskazuje, że należy teraz obserwować, czy rządy i operatorzy infrastruktury przełożą te zalecenia na konkretne wdrożenia obronne oraz czy liczba udokumentowanych włamań z użyciem AI będzie nadal rosnąć.

OpenAI i Anthropic nie odpowiedziały natychmiast na prośbę FOX Business o komentarz.