Rada Bezpieczeństwa ONZ od dziesięcioleci służy jako miejsce obrad nad zagrożeniami egzystencjalnymi — bronią jądrową, zmianami klimatu, pandemiami. Rada jest organem ONZ ponoszącym główną odpowiedzialność za międzynarodowy pokój i bezpieczeństwo, co czyni jej porządek obrod zgrubnym barometrem tego, jak rządy wspólnie określają globalne ryzyko. 23 września 2026 r. dodała do tej listy nowy punkt: sztuczną inteligencję, która mogłaby wymknąć się spod kontroli człowieka.

Sam Altman, dyrektor generalny OpenAI, i Dario Amodei, dyrektor generalny Anthropic, wystąpili przed Radą Bezpieczeństwa podczas dorocznego posiedzenia Zgromadzenia Ogólnego ONZ — wrześniowego spotkania w Nowym Jorku, które gromadzi w jednym miejscu głowy państw i rządów. Obaj wzywali światowych przywódców do budowy kooperacyjnych ram wokół bezpieczeństwa AI, zanim trajektoria technologii wyprzedzi instytucje powołane do jej nadzoru.

Co powiedeli szefowie firm

Przekaz Altmana koncentrował się na wspólnych interesach. Twierdził, że państwa mają wspólne interesy w zarządzaniu potężnymi nowymi technologiami i że to wspólne interesy — a nie rywalizacja — powinny stanowić fundament międzynarodowej koordynacji.

Amodei poszedł dalej, ostrając, że AI może stanowić realne zagrożenie dla ludzkości, jeśli proces rozwoju nie będzie miał odpowiednich zabezpieczeń. Jego wystąpienie w ONZ nastąpiło po eseju opublikowanym 12 września, w którym publicznie opowiedział się za bardziej umiarkowanym tempem rozwoju zdolności AI oraz za umieszczaniem niezależnych ewaluatorów wewnątrz laboratoriów, aby zapewnić rozliczalność, której zespoły wewnętrzne nie są w stanie same dostarczyć.

Posiedzenie miało znaczenie wykraczające poza listę mówców. Była to pierwsza odprawa Rady Bezpieczeństwa ONZ poświęcona konkretnie ryzykom bezpieczeństwa granicznej AI — pojęcie to oznacza zazwyczaj najbardziej zaawansowane systemy AI na obecnym krawędziu rozwoju — co sygnalizuje, że dyskusja przeniosła się z konferencji akademickich i podcastów Doliny Krzemowej do mechanizmów formalnej dyplomacji międzynarodowej.

Do dyskusji dołączyły inne znaczące głosy. Clément Delangue, CEO Hugging Face, uczestniczył obok Yoshuy Bengio, jednego z fundamentalnych badaczy współczesnego głębokiego uczenia i konsekwentnego zwolennika ostrożności w rozwoju AI. Chińscy deweloperzy AI również zostali zaproszeni do zabrania głosu — to istotny szczegół na tle napięć geopolitycznych przenikających całą rozmowę.

Dyplomacja, nieporozumienia i rekurencyjne samoudoskonalenie

Konkretne ryzyko, które napędzało większość obrad, to rekurencyjne samoudoskonalenie: możliwość, że zaawansowane systemy AI mogłyby iteracyjnie ulepszać własne zdolności w sposób wykraczający poza rzeczywisty nadzór człowieka.

Spotkanie wpisuje się także w szerszy moment dyplomatyczny. Dialog USA–Chiny w sprawie regulacji AI po cichu się rozszerza, a zaproszenie chińskich deweloperów na posiedzenie ONZ odzwierciedla próbę uczynienia rozmowy naprawdę globalną, a nie zachodnim ustalaniem standardów przebranym za multilateralizm.

Ta próba napotyka bezpośredni przeciwwiek polityczny. Prezydent USA Donald Trump publicznie odrzucił to, co określił jako globalistyczny plan kontroli AI — ujęcie, które przedstawia międzynarodową koordynację jako zagrożenie dla amerykańskiego przywództwa technologicznego, a nie mechanizm zarządzania wspólnym ryzykiem.

Obecność Bengio dodała inny wymiar. Działa poza komercyjnym ekosystemem AI i nie ma roadmapy produktowej do obrony. Jego udział obok szefów OpenAI i Anthropic sygnalizuje rzadką zbież stanowisk badaczy bezpieczeństwa akademickiego i liderów branży co do potrzeby mechanizmów międzynarodowych.

Co dalej

Posiedzenie Rady Bezpieczeństwa nie przyniosło wiążących porozumień ani formalnych rezolucji. To rozróżnienie ma znaczenie: na mocy Karty Narodów Zjednoczonych rezolucje Rady Bezpieczeństwa mogą wiązać państwa członkowskie, co czyni formalne działanie Rady jedną z najsilniejszych dźwigni dostępnych w zarządzaniu międzynarodowym.

Dla OpenAI i Anthropic popieranie globalnych standardów jest rozwojem obosiecznym. Z jednej strony firmy powiązane z branżą, które pomagają kształtować ramy międzynarodowe, często kończą ze standardami odzwierciedlającymi ich dotychczasowe praktyki — to przewaga konkurencyjna. Z drugiej strony każdy poważny reżim wielostronny prawdopodobnie wprowadziłby niezależną ewaluację i nadzór, które Amodei opisał w eseju z 12 września, a to rodzi tarcia operacyjne, których dzisiaj nie ma.

Każde międzynarodowe ramy bezpieczeństwa AI bez udziału Chin są z definicji niekompletne, biorąc pod uwagę skalę chińskiego rozwoju AI. Ale włączenie Chin oznacza negocjacje między zasadniczo odmiennymi filozofiami regulacyjnymi i systemami politycznymi.