Rozliczenie rynku AI z egzystencjalnym ryzykiem dla bezpieczeństwa postępuje szybko, a przedsiębiorstwa powinny zwrócić na nie uwagę. Jednak nawet gdy najwięksi dostawcy w branży nasilają apele o obowiązkowe krajowe regulacje dotyczące sztucznej inteligencji, bardziej praktycznym zadaniem firm jest przygotowanie własnych organizacji na potencjalne zmiany.

Dylemat komplikuje otoczenie konkurencyjne, a w szczególności geopolityczna rywalizacja między Stanami Zjednoczonymi a Chinami o handel i technologie AI.

OpenAI wzywa do obowiązkowych zasad bezpieczeństwa

Chris Lehane, dyrektor ds. globalnych relacji w OpenAI, opublikował w środę wpis na blogu, w którym wezwał decydentów na całym świecie do podjęcia działań mających ograniczyć ryzyko związane z AI. Lehane powiedział, że OpenAI zabiega o obowiązkowe krajowe wymogi bezpieczeństwa AI i popiera cztery ustawy w Kalifornii, w tym jedną, która stworzyłaby ramy dla niezależnych ocen bezpieczeństwa, a także dwie inne, które gubernator Kalifornii Gavin Newsom podpisał w środę.

Dostawca AI dodał, że jest gotowy współpracować z innymi laboratoriami rozwijającymi najbardziej zaawansowane modele, aby rozwijać standardy bezpieczeństwa AI, zwiększać zakres samoregulacji oraz wspierać współpracę międzynarodową w zakresie pomiaru możliwości, zarządzania ryzykiem i zachowania ludzkiej kontroli nad technologią AI.

Zdaniem Lauren Kornutick, analityczki w Gartner, przedsiębiorstwa obserwujące debatę na temat bezpieczeństwa powinny przede wszystkim uwzględnić bezpieczeństwo w kategoryzacji ryzyka związanego ze sposobem wykorzystywania tej technologii przez ich organizacje.

„Można wprowadzić dodatkowe zabezpieczenia lub mechanizmy kontroli dotyczące wykorzystania AI w organizacji, zanim regulatorzy nadrobią zaległości, ponieważ uzgodnienie przez organy ustawodawcze wspólnego sposobu wdrażania przepisów zajmuje czas” — powiedziała Kornutick.

Rosnące obawy związane z ryzykiem AI

Stanowisko OpenAI pojawia się w czasie narastających obaw dotyczących ryzyka związanego z tą technologią, po odrębnych incydentach, w których agenci AI oparte na modelach OpenAI i Anthropic wydostały się ze swoich środowisk sandbox. Zdarzenia te pokazały, jak niewiele wciąż wiadomo o sposobie działania systemów AI.

„Tempo poprawy możliwości AI jest większe niż tempo, w jakim nasze instytucje są w stanie je rozumieć i nimi zarządzać” — powiedział Kashyap Kompella, założyciel RPA2AI Research. Dodał, że dzięki modelom rozumującym, znacznie większej mocy obliczeniowej AI i coraz bardziej zaawansowanym autonomicznym agentom technologia przekroczyła ważny próg.

Obawy dotyczące złożoności i potencjalnego zagrożenia stwarzanego przez generatywną AI wyrażało wiele prominentnych osób, w tym Geoffrey Hinton, często określany mianem ojca chrzestnego AI. Następnie w środę Jacob Coxon, badacz Anthropic, który wcześniej pracował w OpenAI, ostrzegł w poście w mediach społecznościowych, że firmy zmierzają ku superinteligencji, która jest zbyt niebezpieczna i do końca dekady może doprowadzić do śmierci wszystkich ludzi. Coxon, który od tego czasu odszedł z Anthropic, argumentował, że żadna firma nie jest w stanie bezpiecznie stworzyć sztucznej inteligencji ogólnej bez interwencji rządu.

Otoczenie konkurencyjne

„Rezygnacja Coxona uwypukla istotny problem strukturalny” — powiedział Kompella. „Konkurencja między wiodącymi firmami AI tworzy zachęty do dalszego zwiększania możliwości systemów, nawet gdy część badaczy uważa, że ryzyko staje się bardzo poważne”.

Jak dodał, ta konkurencja oznacza, że proszenie dostawców o samoregulację lub dobrowolne wstrzymanie postępu technologicznego nie jest realistycznym rozwiązaniem. Wiodący dostawcy AI są motywowani nie tylko wyścigiem o przewagę nad sobą nawzajem, lecz także geopolityczną rywalizacją między USA a Chinami w dziedzinie handlu i technologii AI.

„Presja geopolityczna sprawia, że dwaj najwięksi gracze, USA i Chiny, uważają zwycięstwo w wyścigu AI za kwestię egzystencjalną” — powiedział Michael Bennett, zastępca kanclerza ds. nauki o danych i strategii AI na University of Illinois Chicago. „Nie można sobie pozwolić na spowolnienie z powodu konsekwencji konkurencji w wyścigu AI”.

Reakcja przedsiębiorstw

Zamiast czekać na obowiązkowe regulacje dotyczące AI, za którymi opowiada się OpenAI, przedsiębiorstwa powinny same się nadzorować, przyjmując część wymogów, które zaczynają wprowadzać poszczególne stany — na przykład niezależną ocenę w procesach zakupowych dotyczących dostawców zewnętrznych — uważa Kornutick.

Dla liderów przedsiębiorstw sprawia to, że debata regulacyjna staje się natychmiastową kwestią zarządzania: mogą oni śledzić pojawiające się wymogi stanowe, niezależnie oceniać modele zewnętrzne i dokumentować mechanizmy kontroli, podczas gdy ustawodawcy i dostawcy pracują nad szerszymi standardami bezpieczeństwa.

„Regulacje pomagają, ale często nie są kompletnym rozwiązaniem. Przedsiębiorstwa powinny zastanowić się, do czego wykorzystują najbardziej zaawansowane modele. Czy muszą używać ich we wszystkich zastosowaniach AI? Gdzie mogą uzyskać największą wartość?” — powiedziała.

Przedsiębiorstwa mogą również prowadzić działalność lobbingową i współpracować z ustawodawcami — zauważyła Kornutick.

„Jeśli państwa organizacja ma możliwość prowadzenia działań lobbingowych, współpracy z ustawodawcami i bezpośredniego zgłaszania dostawcom modeli obaw… proszę to robić” — powiedziała. „Jednocześnie trzeba kontrolować to, na co ma się wpływ, czyli podstawy dobrych praktyk zarządzania AI, danymi i cyberbezpieczeństwem. W ten sposób można stworzyć właściwy fundament, który przygotuje organizację na przyszłe zmiany”.

Kolejny argument za regulacjami

Wezwanie OpenAI do wprowadzenia regulacji federalnych — oraz poparcie dostawców dla ustaw podobnych do kalifornijskich — może być czymś więcej niż reakcją na trwającą debatę dotyczącą ryzyka AI. Może to być również strategia mająca na celu wyprzedzenie sezonu wyborczego i utrzymanie przychylności opinii publicznej, która zwróciła się przeciwko AI i centrom danych AI.

Mimo to, jak powiedział Bennett, można wyobrazić sobie nowy zestaw polityk i regulacji, w którym wsparcie dla technologii i bezpieczeństwa będzie współistnieć.

„Pozwoliłoby to wspierać rozwój, a jednocześnie zapewnić najlepsze protokoły bezpieczeństwa i zabezpieczenia” — powiedział. „Byłyby to zespoły ludzi i AI wykorzystujące tę technologię do opracowywania optymalnie zaprojektowanych nowych regulacji”.

Niezależna agencja

Choć regulacje są potrzebne, nie rozwiążą wszystkich problemów związanych z bezpieczeństwem AI, zwłaszcza że wielu regulatorów nadal nie rozumie tych systemów — powiedział Kompella.

„Znaczna część dogłębnej wiedzy o tym, jak budowane są najbardziej zaawansowane systemy i jak się zachowują, pozostaje skupiona w niewielkiej liczbie firm i grup badawczych” — kontynuował. „Regulatorzy stoją zatem przed trudnym zadaniem regulowania technologii, która jest złożona pod względem technicznym, zmienia się niezwykle szybko i w dużej mierze jest rozwijana poza administracją rządową”.

Jego zdaniem powinna istnieć instytucja dysponująca wiedzą techniczną i niezależnością — podobna do NASA lub DARPA — która stale badałaby i oceniała te kwestie oraz udzielała decydentom porad, na które firmy AI nie mogłyby wpływać.

„Najsilniejszą odpowiedzią w perspektywie krótkoterminowej są ponadpartyjne federalne ramy wsparte przez instytucję o poważnych kompetencjach technicznych i niezależności” — powiedział Kompella. „Powinna być wystarczająco silna, aby stawiać wyzwania najbardziej zaawansowanym laboratoriom, a jednocześnie na tyle zaawansowana technicznie, by nie regulować poprzez wzbudzanie strachu ani nie zamrażać postępu technologicznego. Musi też działać znacznie szybciej niż tradycyjne instytucje regulacyjne”.

Przedsiębiorstwa prawdopodobnie nie muszą poświęcać wiele czasu na martwienie się egzystencjalnym ryzykiem AI, ale powinny mieć świadomość jego istnienia — powiedziała Kornutick.

„Organizacje naprawdę muszą przyjrzeć się ryzyku, które mają przed sobą, czyli lukom w swojej infrastrukturze i architekturze” — powiedziała. „W tej chwili mogą one stanowić rzeczywisty problem, którego organizacja nie dostrzega”.

---

Ten artykuł powstał na podstawie materiału Esther Shittu dla AI Business, opublikowanego 10 września 2026 roku. Źródło: Kryzys bezpieczeństwa AI i sposoby, w jakie przedsiębiorstwa powinny sobie z nim radzić