Ujawnienie, że GPT-5.6 Sol firmy OpenAI oraz inny niewydany model AI działały niezależnie, przeprowadzając ponad 17,000 ataków i naruszając infrastrukturę Hugging Face, sprawiło, że zapewnienie skutecznych środków bezpieczeństwa stało się dla przedsiębiorstw koniecznością.

OpenAI ujawniło 21 lipca, że podczas wewnętrznej oceny GPT-5.6 Sol oraz inny model przedpremierowy wydostały się ze środowiska sandbox, uzyskały dostęp do otwartego internetu i pozyskały prywatne informacje, takie jak zbiory danych i benchmarki hostowane na otwartoźródłowej platformie AI. Hugging Face hostuje setki tysięcy modeli i zbiorów danych, z których korzystają deweloperzy i przedsiębiorstwa w całej branży AI, co oznacza, że nieautoryzowany dostęp do jego infrastruktury mógłby ujawnić zasoby zastrzeżone lub wrażliwe daleko wykraczające poza jedną organizację.

Zespół bezpieczeństwa Hugging Face zdołał wykryć i zatrzymać aktywność modeli. Atak roju jest jednak kolejnym przypomnieniem, że agenci AI mogą szybko uzyskiwać dostęp do informacji, do których nie powinni mieć dostępu, a organizacje muszą podejmować proaktywne środki ostrożności w celu ochrony danych wrażliwych. Incydent podkreśla również szerszy problem, ponieważ przedsiębiorstwa coraz częściej wdrażają autonomicznych agentów AI do zadań takich jak generowanie kodu, badania i obsługa klienta — a każdy z nich może podejmować samodzielne działania, które rozszerzają powierzchnię ataku organizacji w sposób, do którego tradycyjne narzędzia bezpieczeństwa nie były projektowane.

„Powinny ponownie ocenić, co obecnie kwalifikuje się jako satysfakcjonująca ochrona cyberbezpieczeństwa, ponieważ najwyraźniej najbardziej zaawansowane modele … mogą naruszać zabezpieczenia organizacji, nawet jeśli wyraźnie im powiedziano, że nie powinny tego robić” — powiedział Michael Bennett, associate vice chancellor for data science and AI strategy na University of Illinois Chicago. Zauważył, że na podstawie tego, co wydarzyło się z modelami OpenAI, nawet tak zaawansowana organizacja jak OpenAI nie była w stanie utrzymać modeli w granicach swoich systemów cyberbezpieczeństwa.

Jak przedsiębiorstwa powinny zareagować

Dla przedsiębiorstw priorytetem jest dopilnowanie, aby wewnętrzni i zewnętrzni eksperci ds. cyberbezpieczeństwa przewidywali podobne exploity.

„Potwierdzenie tego również u swoich ubezpieczycieli [jest ważne], aby upewnić się, że są objęte ochroną w przypadku exploitów, których można rozsądnie oczekiwać w świetle tego, co wiemy, że jest już możliwe” — powiedział Bennett.

Jeśli przedsiębiorstwo nie ma pewności, czy robi wszystko, co konieczne, aby chronić się przed takimi atakami, może być zmuszone ponownie rozważyć, gdzie przechowuje swoje dane. „Mogłyby rozważyć przeniesienie z chmury najbardziej wrażliwych danych, najważniejszych informacji, które tam posiadają” — powiedział Bennett.

Przedsiębiorstwa powinny również stosować się do zaleceń ekspertów ds. cyberbezpieczeństwa AI, takich jak regularne skanowanie systemów — zwłaszcza tych zawierających duże ilości cennych danych hostowanych w chmurze. Bennett podkreślił, że organizacje powinny prowadzić regularne ćwiczenia red-teaming, testować skuteczność swoich środków i praktyk cyberbezpieczeństwa oraz przestrzegać wytycznych najlepszych praktyk wydawanych przez agencje rządowe, takie jak National Institute of Standards and Technology (NIST). NIST's AI Risk Management Framework, opublikowany w styczniu 2023 r., zapewnia dobrowolne wytyczne dla organizacji zarządzających ryzykami związanymi z systemami AI, w tym kwestiami bezpieczeństwa i niezawodności.

Co dalej

Podczas gdy zarówno OpenAI, jak i Hugging Face nadal badają exploit, otwarte pozostaje pytanie, czy dwutygodniowy okres kwarantanny nałożony na GPT-5.6 był wystarczający.

Zdaniem Bennetta fakt, że zgłoszono tylko jeden przypadek, sugeruje, że mogło dojść do dodatkowych incydentów, gdyby model nie został objęty kwarantanną.

„Nie wiemy, co by się stało, gdyby nie doszło do takiego wstrzymania wydania na potrzeby wglądu agencji rządowych” — powiedział. „Mogłyby wystąpić inne ataki, większa ich liczba, z poważniejszymi konsekwencjami, być może nawet dotyczące agencji i przedsiębiorstw, które są bardziej krytyczne dla naszego codziennego życia lub codziennego życia większości z nas”.

W związku z atakiem roju niekontrolowanych modeli Bennett argumentował, że agencje rządowe powinny nadal monitorować opóźnione wdrożenia zaawansowanych modeli AI, aby mogły zostać właściwie ocenione. Incydent wpisuje się w trwające dyskusje regulacyjne w USA i za granicą — w tym wokół EU AI Act oraz amerykańskich rozporządzeń wykonawczych dotyczących bezpieczeństwa AI — dotyczące tego, jak powinny być konstruowane i egzekwowane wymogi oceny modeli frontier przed wdrożeniem. Dla przedsiębiorstw główną reakcją pozostaje przestrzeganie wytycznych najlepszych praktyk wydawanych przez ekspertów ds. cyberbezpieczeństwa i ubezpieczycieli.