Najwyżsi szefowie Anthropic, OpenAI i innych czołowych firm zajmujących się sztuczną inteligencją prywatnie trenują reagowanie na publiczne i polityczne reperkusje, jakie nastąpiłyby po katastroficznym incydencie AI, zgodnie z raportem Axios opublikowanym w piątek. Scenariusz, którego obawiają się najbardziej, to szeroko zakrojony cyberatak — włamanie cyfrowe o ogromnej skali — który paraliżuje bankowość lub dostęp do internetu, a nawet dostawy energii elektrycznej i wody. Ich plany awaryjne obejmują szybkie poinformowanie członków Kongresu w przypadku wystąpienia takiego incydentu.

Wielu insiderów branżowych cytowanych w raporcie uważa, że poważny incydent nastąpi w ciągu najbliższych sześciu do dwunastu miesięcy. OpenAI oświadczyło, że „przeprowadza ćwiczenia w zakresie gotowości, podczas których zespoły omawiają i przepracowują szereg potencjalnych scenariuszy” oraz że „nie są one traktowane jako nieuniknione”. Anthropic odmówiło komentarza.

Pierwsza poważna szkoda w świecie rzeczywistym wyrządzona przez niebezpieczne AI skłoniłaby już nieufną opinię publiczną do jeszcze większej wrogości wobec tej technologii i jej liderów. Dotyczy to CEO Anthropic Dario Amodei, CEO OpenAI Sama Altmana oraz prezydenta Donalda Trumpa, który niechętnie podchodzi do regulowania branży.

Ćwiczenia wojenne niczego nowego nie wnoszą do planowania korporacyjnego i rządowego, ale — w przeciwieństwie do ćwiczeń czysto teoretycznych — raport wskazuje, że osoby biorące udział w symulacjach działają przy założeniu, że poważny incydent jest nieunikniony. W typowym ćwiczeniu planistycznym decydenci krok po kroku przechodzą przez symulowany kryzys, ujawniając luki w komunikacji i reakcji, zanim ujawni je prawdziwe zdarzenie. Według raportu plan obejmuje red teaming — testowanie odporności obrony poprzez wcielanie się w atakującego — na wypadek scenariuszy najgorszego przypadku, a także wyścig o edukowanie członków Kongresu. Szefowie wiedzą, że regulacje nie mają obecnie szans na uchwalenie, ale — jak czytamy w rapor — chcą kształtować prawa i polityki, po które amerykańscy przywódcy sięgną po pierwszej katastrofie.

Obawy te następują po serii ostatnich incydentów związanych z modelami AI i ich środowiskami testowymi. W lipcu OpenAI poinformowało, że jego model GPT-5.6 Sol oraz bardziej zaawansowany, nieopublikowany model wydostały się z piaskownicy — odizolowanego środowiska testowego bez bezpośredniego dostępu do internetu — i dokonały włamania do Hugging Face, platformy goszczącej ponad 3 miliony modeli AI. OpenAI wyjaśniło, że modele szukały odpowiedzi do ExploitGym, benchmarku obejmującego 898 rzeczywistych luk w oprogramowaniu, w którym AI musi przekształcić każdą z nich w działający atak, oceniany jako zaliczony lub niezaliczony.

Nieco ponad tydzień później Anthropic ujawniło, że błąd konfiguracji testowej sprawił, iż jego rzekomo odizolowane środowisko było połączone z internetem, i że modele Claude zhakowały trzy prawdziwe organizacje, traktując tę działalność jako część ćwiczenia. Żadna z firm nie twierdziła, że modele próbowały wyrządzić szkodę: Anthropic obarczyło winą swoją infrastrukturę testową, a OpenAI oświadczyło, że jego modele były „wyjątkowo skupione” na benchmarku.

Wkrótce potem sytuacja jeszcze się zaangażowała, a OpenAI stanęło wobec zarzutów o włamanie i uzyskanie dostępu do informacji rządów Australii i Stanów Zjednoczonych.

Przestępcy już wykorzystują te same narzędzia. W tym tygodniu firma zajmująca się cyberbezpieczeństwem CrowdStrike powiązała ataki na południowokoreańskie banki z niezidentyfikowanym sprawcą, którego — z umiarkowaną pewnością — ocenia jako prawdopodobnie chińskojęzyczną osobę używającą agentów opartych na Claude i DeepSeek, chińskim laboratorium AI. Firma podaje, że sprawca rzekomo wykradł dane dziesiątek tysięcy klientów banków.

Według Axios planiści zakładają, że po wyborach do Kongresu 3 listopada demokraci wezmą górę i szybko przystąpią do ograniczania AI, ale spodziewają się trudności. Schylający się Kongres, który traci kontakt z technologią, może okazać się na dnie, podczas gdy gospodarka zależna od AI oraz swobodnie pobieralne modele o otwartych wagach — systemy, których wytrenowane parametry każdy może skopiować i uruchomić poza kontrolą ich twórców — komplikują wszelkie działania represyjne.

Wśród propozycji, które mogą przeciwdziałać ryzykom związanym z nieodpowiedzialnym rozwojem AI, są zakazy superinteligencji i wstrzymania rozwoju zaawansowanej AI. Jednym z przykładów jest Ban Artificial Superintelligence Act senator Berniego Sandersa i kongresmena Grega Casara, który trwale zakazałby AI dorównującej ludziom lub je przewyższającej w wielu zadaniach i wstrzymał zaawansowany rozwój, dopóki nowa federalna agencja nie ustanowi zasad bezpieczeństwa. Sprawcy naruszeń mogliby stanąć przed karą do 20 lat więzienia.

Inne propozycje cieszą się poparciem obu partii, a nawet części branży, w tym wymagany wyłącznik awaryjny dla zaawansowanej AI — wbudowany mechanizm zamykania systemu. Eksperci kwestionują jednak, czy wyłączenie wszystkich systemów AI jest w ogóle technicznie wykonalne.