AktualnościMakroOpenAI oznacza Astrę jako pierwszy model, który osiągnął krytyczny próg bezpieczeństwa w dziedzinie cyberbezpieczeństwa

OpenAI oznacza Astrę jako pierwszy model, który osiągnął krytyczny próg bezpieczeństwa w dziedzinie cyberbezpieczeństwa

Autor: Hokanews·

Najważniejsze informacje

  • •OpenAI po raz pierwszy sklasyfikowało Astrę jako „Krytyczną” w ramach swojego Preparedness Framework.
  • •Oceny wykazały, że Astra — wyposażona w narzędzia i dostęp — potrafi identyfikować nieznane podatności i budować łańcuchy exploitów.
  • •OpenAI podało, że Astra przewyższyła GPT-5.6 Sol w identyfikacji podatności i opracowywaniu exploitów, zużywając mniej tokenów wyjściowych.
  • •Firma wprowadziła ściślejszą izolację, ograniczony dostęp do sieci i narzędzi, dodatkowy monitoring oraz silniejszą kontrolę wag modelu.
  • •Zaawansowane możliwości cyberbezpieczeństwa trafią najpierw do małej grupy testerów alfa, przed szerszym dostępem obronnym poprzez Daybreak Blue.
OpenAI oznacza Astrę jako pierwszy model, który osiągnął krytyczny próg bezpieczeństwa w dziedzinie cyberbezpieczeństwa

Nadchodzący model AI OpenAI, Astra, osiągnął poziom możliwości w dziedzinie cyberbezpieczeństwa, który firma klasyfikuje jako „Krytyczny”, co wywołało wprowadzenie dodatkowych zabezpieczeń przed wydaniem modelu — donosi Cointelegraph. Oznaczenie to po raz pierwszy zostało nadane jednemu z modeli OpenAI w ramach Preparedness Framework, czyli wprowadzonego w 2023 roku systemu oceny ryzyka, służącego badaniu modeli granicznych pod kątem katastrofalnych zagrożeń przed ich wdrożeniem.

Zgodnie z informacjami OpenAI, przeprowadzone oceny wykazały, że Astra — wyposażona w odpowiednie narzędzia i dostęp — potrafi bez ludzkiego nadzoru identyfikować wcześniej nieznane podatności bezpieczeństwa i opracowywać sposoby ich wykorzystania w dobrze chronionych systemach. Te ustalenia skłoniły firmę do nałożenia silniejszych kontroli bezpieczeństwa zarówno na etapie rozwoju, jak i przed wdrożeniem.

Nowy próg możliwości AI w cyberbezpieczeństwie

W ramach Preparedness Framework OpenAI próg „Krytyczny” dotyczy modeli zdolnych do samodzielnego identyfikowania i opracowywania funkcjonalnych exploitów zero-day wobec wzmocnionych krytycznych systemów działających w świecie rzeczywistym, bez interwencji człowieka, lub do niezależnego wymyślania i przeprowadzania nowatorskich, kompleksowych cyberataków na dobrze chronione cele. System ocenia modele w kategoriach ryzyka, takich jak cyberbezpieczeństwo, a wyższe oceny mają uruchamiać coraz ostrzejsze warunki wdrożenia.

OpenAI podało, że Astra wykazała możliwości przewyższające GPT-5.6 Sol w zakresie identyfikacji podatności i opracowywania exploitów, przy czym zużywała mniej tokenów wyjściowych. W jednej z ocen Astra uzyskała wynik 100% w ExploitBench. Testy wewnętrzne wykazały również, że model odkrył i wykorzystał dwie podatności zero-day w ramach łańcucha exploitów.

Silniejsze kontrole przed wydaniem

Firma opóźniła część prac nad rozwojem i wydaniem Astry, wzmacniając jednocześnie zabezpieczenia przed nadużyciami cybernetycznymi i nieautoryzowanymi działaniami modelu. Środki te obejmują ściślejszą izolację, ograniczony dostęp do sieci i narzędzi, dodatkowy monitoring oraz silniejszą kontrolę nad wagami modelu.

OpenAI dodało również, że Astra jest trenowana w celu bardziej wiarygodnego odraczania szkodliwych żądań związanych z cyberbezpieczeństwem. W testach cyber-jailbreak model odrzucił 91,5% niedozwolonych żądań, wobec 59% w przypadku GPT-5.6 Sol. Zaawansowane możliwości w dziedzinie cyberbezpieczeństwa będą początkowo ograniczone do małej grupy testerów alfa, a szerszy dostęp obronny planowany jest poprzez Daybreak Blue — strukturę dostępu, która odzwierciedla to, jak inne wdrożenia wysokozdolnych systemów AI łączyły ograniczone wprowadzanie ze zweryfikowanymi zastosowaniami defensywnymi.

Konsekwencje dla branży AI

Klasyfikacja Astry podkreśla rosnące wyzwanie dla twórców AI: postępy, które mogą usprawnić badania nad podatnościami i cyberobronę, mogą jednocześnie zwiększyć potencjalną skalę i tempo złośliwej działalności. Ustalenie to pojawia się też w szerszym debatach branżowych i politycznych dotyczących zarządzania systemami AI o możliwościach ofensywnych w cyberprzestrzeni, podczas gdy regulatorzy i badacze bezpieczeństwa rozważają, czy dobrowolne ramy wystarczą dla modeli przekraczających takie progi.

W odpowiedzi OpenAI przesunęło się w stronę bardziej restrykcyjnego modelu wdrażania wraz ze wzrostem możliwości, łącząc odraczanie żądań na poziomie modelu z monitoringiem, kontrolą dostępu i środkami powstrzymywania. Podejście to odzwierciedla szersze dążenie firmy do tego, aby systemy bezpieczeństwa nadążały za coraz bardziej autonomicznymi agentami AI. Reakcja innych twórców modeli granicznych — oraz audytujących ich badaczy — na porównywalne progi możliwości prawdopodobnie ukształtuje nowe normy bezpiecznego wdrażania AI.

OpenAI podało, że planuje wkrótce udostępnić Astrę, a dalsze szczegóły dotyczące ocen bezpieczeństwa, zabezpieczeń i zgodności (alignment) mają zostać przedstawione w system card modelu przy premierze — dokumencie, w którym firma wcześniej ujawniała wyniki ocen swoich modeli granicznych.