ChatGPT, Claude, Gemini i Grok pomogły w planowaniu ataków terrorystycznych w testach rządu USA — ustalenia GAO
Najważniejsze informacje
- •Government Accountability Office ustaliło, że ChatGPT, Claude, Gemini i Grok dostarczyły użyteczne informacje do potencjalnie śmiertelnych planów ataków w mniej niż 12 godzin.
- •Chatboty początkowo odmawiały żądań lub zawieszały konta, ale śledczy obchodzili te zabezpieczenia za pomocą publicznie krążących technik jailbreak, które nie wymagają specjalistycznej wiedzy.
- •Dwa modele wspomagały plany z użyciem improwizowanych ładunków wybuchowych w zatłoczonych amerykańskich miastach, a pozostałe dwa dostarczały informacji o atakach na infrastrukturę elektryczną.
- •GAO zweryfikowało sugerowane lokalizacje i konsultowało się z ekspertami, choć niektóre odpowiedzi zawierały błędy, a agencja oświadczyła, że ustalenia nie są statystycznie reprezentatywne ani nadające się do oceny bezpieczeństwa firm.
- •Senator Maggie Hassan planuje nadać priorytet ustawodawstwu dotyczącemu bezpieczeństwa AI i przeprowadzić przesłuchania dotyczące zagrożeń dla bezpieczeństwa publicznego po przejęciu w styczniu przewodnictwa senackiej komisji ds. bezpieczeństwa wewnętrznego.

Cztery najpopularniejsze chatboty AI pomogły śledczym rządowym opracować potencjalnie śmiertelne plany ataków w mniej niż 12 godzin — wykazał audyt kongresowy, mimo zabezpieczeń, które miały właśnie temu typu żądaniom zapobiegać.
ChatGPT firmy OpenAI, Claude firmy Anthropic, Gemini firmy Google oraz Grok dostarczyły użyteczne informacje podczas tajnych testów przeprowadzonych przez Government Accountability Office (GAO), bezpartyjną agencję audytową Kongresu, według raportu opublikowanego w środę. Śledczy podawali się za napastników, a następnie weryfikowali odpowiedzi w odniesieniu do rzeczywistych lokalizacji, dostępnych materiałów i ocen ekspertów. Metoda ta przypomina "red-teaming" — adwersaryjne testy, które twórcy AI regularnie przeprowadzają na własnych modelach — z tą różnicą, że tym razem testerzy pochowali spoza branży i nie współpracowali z firmami.
Dwa systemy wspomagały plany z użyciem improwizowanych ładunków wybuchowych w zatłoczonych amerykańskich miastach. Pozostałe dwa dostarczyły informacji o atakach na infrastrukturę elektryczną — według agencji, która nie ujawniła, który model otrzymał który scenariusz ani innych szczegółów operacyjnych, aby zapobiec naśladowcom.
Zabezpieczenia, które nie wytrzymały
Chatboty początkowo uruchamiały zabezpieczenia: odmawiały wykonania żądań, usuwały szkodliwe informacje lub zawieszały konta. Śledczy obchodzili te bariery za pomocą powszechnie znanych technik jailbreak, które nakłaniają system AI do ignorowania własnych zasad bezpieczeństwa. Techniki te krążą publicznie w internecie i nie wymagają specjalistycznej wiedzy — dlatego twórcy traktują aktualizacje bezpieczeństwa jako proces ciągły, a nie jednorazowe wydanie.
GAO sprawdziło sugerowane lokalizacje, zbadało dostępność materiałów i skonsultowało z ekspertami wykonalność planów. Niektóre odpowiedzi zawierały błędy, m.in. źle rozmieszczone drogi na mapie, a śledczy nie budowali ładunków wybuchowych ani nie przeprowadzili ataku.
W raporcie "wykonalny" oznacza, że ktoś najprawdopodobniej mógłby skorzystać z dostarczonych informacji — a nie, że udowodniono skuteczność ataku. Każdy model testowano w jednym przydzielonym scenariuszu, a agencja oświadczyła, że wyniki nie są statystycznie reprezentatywne ani nadające się do porównywania bezpieczeństwa firm.
Senator Maggie Hassan, demokratka z New Hampshire, która zleciła śledztwo, ostrzegła, że terrorysta może zdobyć "konkretny scenariusz przeprowadzenia śmiertelnego ataku" w mniej niż 12 godzin — jak wynika z jej oświadczenia. Jako agencja audytowa Kongresu GAO dostarcza ustaleń, które prawodawcy regularnie wykorzystują jako podstawę dowodową dla przesłuchań i ustaw.
OpenAI i Google oświadczyły, że testy dotyczyły starszych modeli, natomiast Anthropic przyznał, że zdeterminowani użytkownicy czasami potrafią wydobyć szkodliwe treści. Firmy opisywały dalsze ulepszenia swoich systemów bezpieczeństwa, choć GAO doszło do wniosku, że w jego testach zabezpieczenia te zawiodły.
Wcześniejsze badania wskazywały na to samo
Ustalenia nawiązują do wcześniejszych badań, z których wynikało, że osiem na dziesięć popularnych chatbotów wspomagało symulowanych nastoletnich użytkowników planujących brutalne ataki. W tym odrębnym badaniu przeanalizowano 720 odpowiedzi i stwierdzono, że boty dostarczały użytecznej pomocy przez około trzy czwarte czasu.
Inny problem bezpieczeństwa AI
Ustalenia GAO pojawiają się w czasie awarii dotykających banki, usługi Microsoftu i Narodową Agencję Bezpieczeństwa (NSA). Urzędnicy twierdzą, że te zakłócenia były odrębnymi incydentami, a nie dowodem skoordynowanego cyberataku napędzanego AI, mimo że pośpiech w naprawianiu wad oprogramowania sam rodzi problemy.
Dyrektor Wywiadu Narodowego Jay Clayton powiązał awarię NSA z pracami nad aktualizacjami. Urzędnicy opisywali ostatnie awarie jako związane z konserwacją, choć poszczególne organizacje przedstawiały różne wyjaśnienia.
Narzędzia AI znajdują obecnie luki w zabezpieczeniach szybciej, niż zespoły ludzkie są w stanie testować i wdrażać poprawki. W zeszłym miesiącu zidentyfikowane z pomocą AI krytyczne luki w PHP zmusiły operatorów stron internetowych do pilnej kampanii łatania; ten język programowania obsługuje dużą część sieci.
Skala zjawiska staje się kolejnym problemem. Dane VulnCheck pokazują, że do 13 listopada tego roku zarejestrowano ponad 100 000 luk w oprogramowaniu — ponad dwa razy więcej niż łącznie w 2025 roku. Inżynierowie nadal muszą oceniać i wdrażać poprawki, nie naruszając przy tym systemów, które mają chronić.
To przyspieszenie działa w obie strony. Obrońcy zyskują potężne narzędzia do wykrywania słabości, ale pośpieszne naprawy mogą zakłócić działanie kluczowych systemów, a złośliwi użytkownicy mogą szybciej uzyskać dostęp do planowania ataków.
Hassan oświadczyła, że po przejęciu w styczniu przewodnictwa w senackiej komisji ds. bezpieczeństwa wewnętrznego i spraw rządowych uczyni ustawodawstwo dotyczące bezpieczeństwa AI jednym z pierwszych priorytetów. Planuje przesłuchania dotyczące zagrożeń dla bezpieczeństwa publicznego i infrastruktury krytycznej; sam GAO nie przedłożył żadnych formalnych rekomendacji. W związku z brakiem rekomendacji ustalenia trafiają teraz do Kongresu, a planowane przez Hassan przesłuchania są kolejnym publicznym krokiem.