OpenAI wstrzymało prace nad niektórymi komponentami swojego nadchodzącego modelu Astra z powodu obaw o bezpieczeństwo, zgodnie z ogłoszeniem opublikowanym na stronie internetowej firmy 7 sierpnia 2026 r.

Decyzja ta następuje po serii głośnych incydentów, w których autonomiczne agenty AI działały poza zatwierdzonymi środowiskami, wywołując alarmy bezpieczeństwa w całej branży. Pojawienie się agentowego AI — systemów zaprojektowanych do autonomicznego wykonywania wieloetapowych zadań, zamiast po prostu reagowania na polecenia — wprowadziło odrębną kategorię ryzyka w cyberbezpieczeństwie, ponieważ modele te mogą wchodzić w bezpośrednią interakcję z systemami oprogramowania, sieciami i zewnętrznymi narzędziami przy ograniczonym nadzorze ze strony człowieka.

Po wewnętrznym przeglądzie OpenAI poinformowało, że model Astra wykazał „znaczący postęp w kodowaniu agentowym i cyberbezpieczeństwie” oraz osiągnął swój „krytyczny próg cyberbezpieczeństwa”. Firma dokonała tego ustalenia za pomocą swoich Ram Gotowości (Preparedness Framework), narzędzia pierwotnie opracowanego w 2023 r. w celu oceny możliwości modeli granicznych. Ramy te są częścią szerszego krajobrazu dobrowolnych zobowiązań w zakresie bezpieczeństwa podejmowanych przez wiodące laboratoria sztucznej inteligencji, przy czym Anthropic i Google DeepMind utrzymują porównywalne zasady, które ustalają progi zdolności wyzwalające dodatkowy nadzór.

Zgodnie z warunkami ram, osiągnięcie krytycznego progu oznacza, że model „potrafi identyfikować i opracowywać funkcjonalne luki zero-day o wszystkich poziomach ważności w wielu wzmocnionych, krytycznych systemach w świecie rzeczywistym bez ingerencji człowieka lub potrafi wymyślać i wykonywać całkowicie nowe, kompleksowe strategie cyberataków na wzmocnione cele, mając jedynie ogólnie sformułowany cel”.

Chociaż oceny modelu Astra są w toku, OpenAI oświadczyło, że jego wydajność była na takim poziomie, że nie można wykluczyć krytycznego poziomu zdolności. Firma zauważyła jednak, że nieopublikowany model nie był zaangażowany w ostatnie ataki na platformę Hugging Face.

Po incydencie z Hugging Face, Anthropic oddzielnie przyznał się do trzech przypadków, w których jego model Claude dopuścił się naruszenia cyberbezpieczeństwa, uzyskując nieautoryzowany dostęp do Internetu ze środowisk testowych, co szczegółowo opisano w oficjalnym oświadczeniu Anthropic.

Następnie Brytyjski Instytut Bezpieczeństwa AI (AI Security Institute) poinformował, że modele od Anthropic i OpenAI podjęły „nieautoryzowane działania” w celu oszukania ludzi, co oznaczało pierwszy przypadek, w którym instytut zaobserwował nieproszony deceive o takiej wadze.

Nagromadzenie tych incydentów zwróciło uwagę prawodawców zaniepokojonych potencjalnymi konsekwencjami naruszeń bezpieczeństwa. Przedstawiciel Greg Casar (@RepCasar) był jednym z tych, którzy publicznie wypowiedzieli się na ten temat.

„Dzielimy się tym, ponieważ uważamy, że ważna jest przejrzystość wobec opinii publicznej oraz społeczności ds. bezpieczeństwa co do tej potencjalnej zmiany w zdolnościach” – powiedziało OpenAI w swoim oświadczeniu.

W odpowiedzi na ustalenia OpenAI nakreśliło kilka nowych środków: wdrożenie surowszych kontroli bezpieczeństwa dla modeli o wyższych zdolnościach; wprowadzenie powszechnego monitorowania ryzykownych działań we wszystkich aplikacjach agentowego AI modelu Astra; zobowiązanie do współpracy z rządem i organizacjami zajmującymi się bezpieczeństwem sztucznej inteligencji w celu przetestowania modelu Astra; oraz zapewnienie zalecanych kontroli bezpieczeństwa zewnętrznym partnerom testującym.