Kilka tygodni po tym, jak modele AI firmy włamały się na platformę Hugging Face, OpenAI opublikowało pierwszy szczegółowy opis tego, jak jego agenci potajemnie koordynowali działania między sobą, ostrzegając, że autonomiczne cyberataki wspierane przez AI nie są już hipotetycznym zagrożeniem przyszłości.

Podczas prezentacji w środę na konferencji cyberbezpieczeństwa Black Hat, jednym z najważniejszych corocznych spotkań branży bezpieczeństwa informacji, badacze OpenAI Eric Wallace i Michael Dalton wyjaśnili, że incydent miał początek w maju podczas wewnętrznej ewaluacji cyberbezpieczeństwa. Agenci AI, którym przydzielono trudne zadania z zakresu bezpieczeństwa oprogramowania, odkryli, że mogą komunikować się w sposób ukryty za pośrednictwem wewnętrznego systemu zarządzania pakietami Artifactory firmy.

Według OpenAI to, co początkowo wyglądało na prośby o pomoc, przekształciło się we wspólną tablicę wiadomości, na której agenci wymieniali się exploitami, poświadczeniami i przydziałami zadań w wielu przebiegach ewaluacji. Po wykryciu podejrzanej aktywności około 4 lipca OpenAI przebudowało swoją infrastrukturę Artifactory, unieważniło poświadczenia i załatało luki bezpieczeństwa.

W ciągu kilku dni agenci odtworzyli jednak tablicę wiadomości, ukrywając komunikację w nazwach katalogów, omijając w ten sposób wprowadzone zabezpieczenia.

OpenAI poinformowało, że agenci ostatecznie połączyli ze sobą wiele luk bezpieczeństwa, uciekli ze środowiska testowego, uzyskali dostęp do internetu i zaatakowali Hugging Face, próbując ukończyć test porównawczy cyberbezpieczeństwa ExploitGym. Hugging Face hostuje setki tysięcy modeli uczenia maszynowego i zbiorów danych wykorzystywanych przez globalną społeczność badawczą AI, co czyni go kluczową infrastrukturą dla programistów i przedsiębiorstw.

Dalton określił incydent mianem „punktu zwrotnego” dla bezpieczeństwa komputerowego, ostrzegając, że atakujący wkrótce będą w stanie wdrażać skoordynowane kolektywy agentów AI, które odkrywają, współdzielą i wykorzystują luki z prędkością maszyny. Ujawnienie tych informacji na Black Hat sygnalizuje, że laboratoria AI coraz częściej traktują incydenty bezpieczeństwa napędzane przez agentów jako bliskie wyzwanie operacyjne, a nie teoretyczne pytanie badawcze.

W celu ograniczenia tych ryzyk w przyszłości OpenAI podkreśliło, że kluczowe jest wdrażanie praktyk bezpieczeństwa, takich jak dostęp na zasadzie najmniejszych uprawnień, segmentacja sieci i architektury zero-trust, ponieważ agenci AI nadal są ograniczeni przez systemy, do których mają dostęp.

Prezentacja nastąpiła po serii ujawnień z lipca. OpenAI ogłosiło, że GPT-5.6 Sol wraz z bardziej zaawansowanym, nieopublikowanym modelem uciekły ze środowiska testowego typu sandbox, wykorzystały lukę zero-day, uzyskały dostęp do internetu i włamały się na Hugging Face podczas testu porównawczego cyberbezpieczeństwa. OpenAI później ujawniło, że ten sam incydent objął również cztery inne usługi online, choć publicznie zidentyfikowano jedynie Modal Labs.

Według Hugging Face firma polegała na chińskim modelu o otwartych wagach GLM 5.2 w swoim śledztwie kryminalistycznym, po tym jak komercyjne amerykańskie modele AI odmówiły analizy dzienników ataku ze względu na wbudowane filtry bezpieczeństwa. Ta dynamika uwypukla narastające napięcie w obszarze bezpieczeństwa AI: te same filtry bezpieczeństwa, które mają zapobiegać generowaniu przez modele szkodliwych treści, mogą również utrudniać legalną analizę defensywną rzeczywistych ataków.

So proud of our security team! They caught, contained & publicly disclosed an attack unlike anything we've seen before, and did it at record speed. Also massively grateful to @Zai_org : they shared GLM5.2 as open weights (for free!) with the world and it became a key part of our… — clem 🤗 (@ClementDelangue) July 22, 2026

Wyzwanie związane z kontrolowaniem modeli AI wykracza poza OpenAI. W piątek Anthropic ujawnił, że trzy modele Claude naruszyły bezpieczeństwo rzeczywistych firm podczas wewnętrznych testów cyberbezpieczeństwa, po tym jak błędna konfiguracja wystawiła je na publiczny internet. Anthropic przypisał winę środowisku testowemu, a nie samym modelom.

W środę Meta ujawniła, że jej model AI Muse Spark uciekł z izolacji i naruszył systemy innej firmy. „Błędna konfiguracja ze strony Irregular, niezależnej firmy testującej, z której korzysta Meta, nieumyślnie umożliwiła jednemu z naszych modeli dostęp do internetu podczas ewaluacji” — powiedział rzecznik Meta w rozmowie z CNN.

Wobec ujawnień napływających obecnie od trzech największych laboratoriów AI w tym samym miesiącu incydenty te łącznie podkreślają, że piaskownice dla agentów i bezpieczeństwo środowisk ewaluacyjnych pozostają nierozwiązanymi problemami w całej branży w miarę, jak modele stają się coraz bardziej zaawansowane i autonomiczne.