Decyzja OpenAI o spowolnieniu rozwoju nadchodzącego modelu w odpowiedzi na niedawne obawy dotyczące cyberbezpieczeństwa powinna być sygnałem dla przedsiębiorstw: potrzebują one silniejszych środków bezpieczeństwa, niezależnie od tego, którego modelu używają do obciążeń związanych ze sztuczną inteligencją. Krok ten stanowi odpowiedź na incydent hakerski z udziałem Hugging Face i inne obawy cyberbezpieczeństwa dotyczące modeli AI — ale organizacje muszą nadal wzmacniać własne zabezpieczenia, niezależnie od tego, jakie modele wdrażają.

18 sierpnia laboratorium AI ujawniło, że pracuje nad tym, aby wyprzedzać standardy w zakresie monitorowania, zgodności (alignment) i bezpieczeństwa, dotyczące ryzyk związanych z opracowywaniem i testowaniem modeli AI. Dostawca oświadczył, że spowalnia tempo skalowania i wprowadza dwutygodniową przerwę w treningu metodą uczenia ze wzmocnieniem dla swoich najnowszych modeli. OpenAI wymaga obecnie także silniejszych dowodów zachowań zgodnych z założeniami — zapewniających, że modele trzymają się zamierzonych, określonych i wyłaniających się celów — przez cały okres treningu, a także wdraża nowy system monitorowania, który wysyła alert w ciągu 30 minut od wykrycia podejrzanego zachowania. Kroki te opierają się na reżimach bezpieczeństwa, którymi największe laboratoria już dysponują — Preparedness Framework OpenAI oraz Responsible Scaling Policy Anthropic zobowiązują ich twórców do oceny ryzykownych możliwości modeli przed ich wdrożeniem.

Decyzja o spowolnieniu tempa i większym skupieniu się na bezpieczeństwie nastąpiła po niedawnym incydencie, w którym agent AI oparty na modelach OpenAI wydostał się ze swojego sandboxa i zhakował systemy produkcyjne platformy AI Hugging Face. Hugging Face udostępnia jedną z największych publicznych bibliotek modeli open source i zbiorów danych, więc naruszenie objęło infrastrukturę szeroko stosowaną w całej branży, a nie systemy pojedynczego dostawcy. Konkurencyjna Anthropic ujawniła również, że różne wersje Claude, w tym modele Mythos i Opus, wydostały się z izolacji i zhakowały trzy organizacje. Incydenty te nasiliły obawy o to, jak potężne stają się modele AI — i o liczne stwarzane przez nie ryzyka cyberbezpieczeństwa — szczególnie że przedsiębiorstwa przenoszą agentową sztuczną inteligencję, czyli systemy zdolne do autonomicznego przeglądania internetu, pisania i uruchamiania kodu oraz wykonywania wieloetapowych zadań, z etapu pilotaży do produkcji i zapewniają jej bezpośredni dostęp do narzędzi, systemów i danych.

„Zawsze istniała obawa dotycząca AI: czy wymknie się spod kontroli, czy zrobi coś, czego nie powinna? Odpowiedź brzmi: tak” — powiedział Mark Beccue, analityk Omdia, oddziału Informa TechTarget. Dodał, że incydenty z udziałem OpenAI i Anthropic prawdopodobnie sprawią, że przedsiębiorstwa będą z pewnym wahaniem podchodzić do zaufania jakimkolwiek modelom AI.

Wezwanie do bezpieczniejszej AI — i jego granice

Beccue dostrzega jednak również pozytywną stronę: fakt, że incydent skłania OpenAI i innych członków społeczności AI do priorytetowego traktowania bezpieczeństwa AI, jest zachęcający i może stworzyć nowe możliwości. „Może staną się odrobinę sprytniejsi w tym, jak to robić, ale stwarza to także okazje. A teraz eksperci ds. cyberbezpieczeństwa zastanawiają się, jak chronić się przed tego rodzaju zagrożeniami” — powiedział.

Niemniej choć dostawcy tacy jak OpenAI mogą wzmacniać działania na rzecz bezpieczeństwa i spowalniać trening metodą uczenia ze wzmocnieniem w nadchodzących modelach, problem modeli stwarzających ryzyka cyberbezpieczeństwa nie da się łatwo naprawić — powiedział Chirag Shah, profesor w Szkole Informacji Uniwersytetu Waszyngtońskiego w Seattle.

„Nie sądzę, żeby istniało tu rzeczywiste rozwiązanie” — powiedział Shah. „Jeśli chodzi o tego rodzaju niewłaściwe zachowania modeli, można podjąć pewne działania, aby zmniejszyć część takich przypadków, ale nigdy nie znikną one całkowicie”.

Dodał, że nawet gdy dostawcy będą próbowali rozwiązać problem, mogą pojawiać się kolejne incydenty. Co więcej, choć OpenAI mówiła o próbie naprawienia zgodności (alignment) modeli, aby zapobiec incydentom takim jak ten z Hugging Face, będzie to trudne dla firmy ścigającej się w kierunku AGI (sztucznej inteligencji ogólnej) — co oznacza, że OpenAI celowo tworzy systemy, które — jak oczekuje — będą mądrzejsze od ludzi.

„Nie można mieć obu rzeczy naraz” — powiedział Shah. „Nie można mieć systemu o ogólnych możliwościach, mądrzejszego od nas, i oczekiwać, że z jakiegoś powodu nie będzie podejmował tego rodzaju działań”.

Dodał, że OpenAI swoją decyzją o spowolnieniu rozwoju wydaje się prowadzić działania ograniczające szkody, ale nie ujawniła szczegółów technicznych dotyczących tego, jak zamierza naprawić modele, aby przestały zachowywać się niewłaściwie. „Teoretycznie nie jest to coś, co da się naprawić” — powiedział Shah. „Można to ograniczyć, ale dopóki nie porzuci się agendy AGI… tylko tworzy się więcej problemów”.

Co mogą zrobić przedsiębiorstwa

Choć dostawcy mogą nie być w stanie całkowicie wyeliminować problemów cyberbezpieczeństwa związanych z modelami AI, przedsiębiorstwa powinny nadal dążyć do wdrożenia najskuteczniejszych środków bezpieczeństwa, niezależnie od używanego modelu. Ramy takie jak AI Risk Management Framework NIST już określają praktyki identyfikowania i zarządzania ryzykiem AI, a regulacje podnoszą poprzeczkę również dla dostawców: unijny akt o sztucznej inteligencji (AI Act) nakłada na dostawców modeli AI ogólnego przeznaczenia obowiązki w zakresie przejrzystości i bezpieczeństwa.

„Kiedy hakerzy ruszą do działania, nie będzie miało znaczenia, kto stworzył dany model” — powiedział Beccue. „Nie ma znaczenia, jak wybierane są modele. Przedsiębiorstwa będą musiały zapytać: «jak bezpieczne możemy być?»”.

Źródło: AI Business