OpenAI poinformowało, że jego autonomiczne agenty bezpieczeństwa wykryły 948 odmiennych luk w jądrze Linux, stworzyły działające exploity i przygotowały poprawki do weryfikacji przez ludzi — wszystko za około 1,2 mln dolarów w kredytach API, według firmy.

Kampania z października kosztowała 1 213 430 dolarów w kredytach, co daje średnio około 1 279 dolarów na lukę, a potężniejszy, nieopublikowany model AI ostatecznie znalazł ponad pięć razy więcej luk niż wcześniejsza wersja. Chociaż system wygenerował również projektowe poprawki, odpowiedzialność za ich walidację i wdrożenie nadal spoczywa na ludziach i opiekunach oprogramowania.

„Wybraliśmy Linuksa, aby zbadać, jak skutecznie modele graniczne mogą znajdować luki i wykazać ich wpływ na bezpieczeństwo w codebase o tej skali i znaczeniu” — powiedziało OpenAI w wynikach opublikowanych w środę.

Jądro Linux napędza serwery chmurowe, urządzenia z Androidem oraz znaczną część krytycznej infrastruktury obliczeniowej świata. Luki zidentyfikowane w eksperymencie umożliwiały lokalną eskalację uprawnień: atakujący musiał najpierw uzyskać ograniczony dostęp do podatnej maszyny, ale mógł następnie potencjalnie zdobyć uprawnienia root i przejąć pełną kontrolę. Na systemach współdzielonych, takich jak serwery chmurowe, ten krok eskalacji to właśnie to, co zamienia ograniczony dostęp w kontrolę nad wszystkim, co uruchamia maszyna.

948 luk, 1169 działających exploitów

Agenty OpenAI przeskanowały około 2,8 mln linii kodu jądra, czyli około 7% projektu. „Nasz prototyp zidentyfikował i przeanalizował 2308 potencjalnych ustaleń w jądrze Linux, dynamicznie odtworzył 1724 podatności i wygenerował 948 exploitów lokalnej eskalacji uprawnień (LPE), które mogły pozwolić nieuprzywilejowanemu lokalnemu użytkownikowi uzyskać dostęp root” — powiedziało OpenAI.

Po pogrupowaniu exploitów według ich przyczyny źródłowej i proponowanej poprawki badacze policzyli 948 odmiennych luk, przy czym exploity dzielące tę samą przyczynę i remedykację traktowano jako jedną.

OpenAI porównało koszt tej próby z historycznymi wypłatami od 20 000 do 70 000 dolarów za exploity eskalacji uprawnień w Linuksie na konkursach hakerskich, sugerując hipotetyczną wartość od 18,9 mln do 66,3 mln dolarów, gdyby te same wyniki zostały osiągnięte ręcznie.

Wcześniejsza kampania GPT-5.6 Sol znalazła 166 unikalnych luk eskalacji uprawnień w lipcu za 513 690 dolarów. Nowszy, nieopublikowany model cybernetyczny znalazł ich ponad pięć razy więcej w październiku, nawet po tym, jak jądro przeszło miesiące poprawek. OpenAI podało również, że jego agenty zastosowały co najmniej 10 technik eksploatacji nieznanych badaczom oraz konsultowanym ekspertom zewnętrznym — nie jedynie istniejące sztuczki pobrane z danych treningowych.

Co się stanie, gdy hakerzy dostaną te same narzędzia?

Te wyniki dołączają do rosnących dowodów na to, że systemy AI są zdolne do prowadzenia zaawansowanych badań nad cyberbezpieczeństwem, które wcześniej wymagały znaczącej ludzkiej ekspertyzy.

W zeszłym tygodniu Anthropic ujawniło w raporcie badawczym, że nieopublikowana wersja Claude odkryła i wykorzystała poważne luki w powszechnie używanym oprogramowaniu, w tym w Chrome i Linuksie. Niektóre z tych exploitów mogły zdalnie wykonać złośliwy kod przy minimalnej interakcji użytkownika lub bez niej. Oba raporty, opublikowane w odstępie około tygodnia, podkreślają, jak szybko laboratoria pracujące nad modelami granicznymi prezentują możliwości bezpieczeństwa swoich najpotężniejszych modeli, jednocześnie utrzymując te systemy poza ogólną dostępnością.

Ekonomia tego typu badań zmieniała się już przed ogłoszeniem OpenAI. Badacze z Vidoc Security odtworzyli kilka odkryć podatności powiązanych z potężnym modelem Mythos AI firmy Anthropic za pomocą publicznie dostępnych modeli za mniej niż 30 dolarów za plik, jak wcześniej relacjonowało Decrypt.

Testy te pokazały, że znajdowanie podatności staje się coraz bardziej dostępne, choć odtworzenie luki to co innego niż opracowanie niezawodnego exploita zdolnego skompromitować chroniony system.

Najnowszy eksperyment OpenAI idzie dalej, automatyzując znaczną część procesu eksploatacji — rozwój, który mógłby dać obrońcom przewagę w łataniu oprogramowania, zanim przestępcy będą w stanie wykorzystać te same słabości. Firma ostrzegła, że atakujący z ograniczonym dostępem do przestarzałego systemu operacyjnego mogą coraz częściej eskalować swoje uprawnienia z pomocą AI. Na razie projektowe poprawki przygotowane przez agenty pozostają w rękach recenzentów — co czyni sposób postępowania z poprawkami generowanymi przez AI dla powszechnie używanego kodu konkretnym kolejnym tematem do obserwowania.

OpenAI stara się ograniczyć dostęp do swoich potężniejszych modeli cybernetycznych poprzez zweryfikowane programy bezpieczeństwa. Jego inicjatywa Daybreak Red zapewnia zatwierdzonym obrońcom dostęp do wyspecjalizowanych narzędzi AI do badań nad podatnościami, testowania exploitów i opracowywania środków zaradczych.