Prawdziwa nieciągłość może nie nastąpić wtedy, gdy maszyny przewyższą ludzi. Może nastąpić wtedy, gdy możliwości AI będą kumulować się szybciej, niż instytucje zdołają je wchłonąć.

Podczas niedawnego posiedzenia komitetu ds. ryzyka pytanie wydawało się proste: Czy ujawnienie ryzyka związanego z AI przez organizację jest nadal aktualne? Odpowiedź była mniej jednoznaczna. Od poprzedniego przeglądu systemy AI znacząco się zmieniły. Obsługiwały dłuższe zadania, korzystały z większej liczby narzędzi, działały przy mniejszym nadzorze i bezpośrednio uczestniczyły w tworzeniu oprogramowania oraz badaniach. Ramy zarządzania ryzykiem nie ewoluowały jednak w tym samym tempie.

Nie musiało dojść do żadnej konkretnej awarii. I właśnie to stanowiło problem. Zarząd miał zatwierdzić środowisko kontroli zaprojektowane dla technologii, której profil możliwości już wykraczał poza leżące u jego podstaw założenia.

To tutaj powinna rozpocząć się debata o osobliwości — nie od prognoz dotyczących tego, kiedy maszyny przewyższą ludzi, lecz od mniej egzotycznego i pilniejszego pytania o zarządzanie. Taka nieciągłość nie wymaga eksplozji inteligencji, określonej daty ani zgody co do znaczenia sztucznej inteligencji ogólnej. Jest już problemem kontroli.

Trzy rozmowy, które zwykle się ze sobą utożsamia

Znaczna część publicznej debaty o AI jest niejasna, ponieważ trzy odrębne pojęcia traktuje się tak, jakby stanowiły jedno.

Możliwości opisują to, co potrafią systemy AI. Są mierzalne empirycznie, testowalne i szybko rosną.

Autonomia opisuje, jaka część procesu podejmowania decyzji i działania może przebiegać bez bezpośredniej interwencji człowieka. To właśnie tutaj znajduje się natychmiastowe wyzwanie związane z zarządzaniem. System AI generujący odpowiedź to jedno. System, który określa następne działanie, uzyskuje dostęp do narzędzia, wykonuje to działanie, ocenia jego wynik i kontynuuje pracę, jest czymś zasadniczo innym.

Osobliwość jest spekulatywną nieciągłością: punktem, w którym doskonalenie napędzane przez AI staje się na tyle samowzmacniające, że konwencjonalne ludzkie prognozowanie przestaje być wiarygodne.

Pojęć tych nie można stosować zamiennie. Dyrektor nie musi wierzyć, że technologiczna osobliwość jest bliska, aby dostrzec, że rosnąca autonomia tworzy inne środowisko kontroli. Podobnie można uważać, że możliwości AI w przyszłości zmienią świat, nie uznając jednocześnie eksplozji inteligencji za nieuniknioną.

To rozróżnienie ma znaczenie, ponieważ zarządzanie nie może czekać na odpowiedź na trzecie pytanie, zanim zacznie działać w sprawie drugiego.

Pętla nie jest zamknięta — ale nie oznacza to, że jest nieistotna

Najmocniejszy dowód na rzecz tego argumentu jest zarazem najmniej sensacyjny. Laboratoria rozwijające czołowe modele AI coraz częściej delegują część prac nad rozwojem AI samym systemom AI.

Anthropic opisuje przejście od sytuacji, w której ludzie piszą kod, przez agentów programistycznych piszących i edytujących jego znaczne części, do agentów uruchamiających kod i delegujących pracę innym agentom. Anthropic informuje, że według stanu na maj 2026 roku Claude napisał ponad 80% kodu, który firma włącza do swojego produkcyjnego środowiska kodowego.

Kluczowe jest jednak to, co jeszcze się nie wydarzyło. Kierunek badań nadal wyznaczają ludzie, a pętla nie jest w pełni autonomiczna. Anthropic wyraźnie stwierdza, że rekurencyjne samodoskonalenie nie zachodzi jeszcze w pełni autonomicznie i nie jest nieuniknione.

Sam Altman podobnie opisał obecny stan jako „larwalną” wersję rekurencyjnego samodoskonalenia, przyznając jednocześnie, że nie jest to równoznaczne z autonomicznym przepisywaniem się przez system AI.

To zastrzeżenie wzmacnia, a nie osłabia argument dotyczący zarządzania. Właściwe pytanie nie brzmi, czy pętla jest zamknięta. Brzmi: jak duża część tej pętli przeszła już od wykonywania przez ludzi do wykonywania przez maszyny — i czy mechanizmy kontroli instytucjonalnej nadążają za tą zmianą.

Zarządzanie działa według innego zegara

Regulacje pokazują ten sam problem różnego tempa. Rząd USA ustanowił dobrowolne ramy dotyczące niektórych modeli czołowych, obejmujące dostęp rządu do objętych nimi modeli przed ich udostępnieniem oraz utajniony proces benchmarkingu służący ustaleniu, czy modele spełniają próg zaawansowania. Ramy te wyraźnie nie wprowadzają obowiązkowego licencjonowania ani uprzedniej zgody. Biały Dom

Jednocześnie NIST opracowuje praktyczne podejścia do tożsamości i autoryzacji agentów, obejmujące identyfikację, autoryzację, audyt, niezaprzeczalność oraz mechanizmy ochrony przed wstrzykiwaniem poleceń.

Kierunek tych prac ma istotne znaczenie. Instrumenty zarządzania są przeprojektowywane z myślą o systemach, które mogą działać, a nie tylko generować informacje. Dla organizacji oznacza to, że nadzór musi śledzić nie tylko możliwości modelu, lecz także uprawnienia, systemy, dane i podmioty trzecie połączone z systemem. Te wymiary określają konsekwencje działania oraz dowody wymagane do wykazania, że pozostawało ono pod kontrolą.

Regulatorzy finansowi równie jasno określają odpowiedzialność zarządów. FCA, Bank Anglii i Ministerstwo Skarbu stwierdziły, że firmy powinny zapewnić zarządom i kadrze kierowniczej wyższego szczebla wystarczające zrozumienie ryzyka związanego z czołowymi systemami AI, aby mogły wyznaczać kierunek strategiczny i nadzorować funkcje kontrolne.

Nie świadczy to o porażce regulatorów. Odzwierciedla strukturalną rzeczywistość: technologia zmienia się najpierw, a instytucje dopiero później formalizują swoją reakcję. Zarządy nie mogą zatem uzależniać działań od pewności regulacyjnej.

Rzeczywistym problemem może być luka absorpcji

W tym miejscu rozmowa o osobliwości staje się kwestią dotyczącą całego przedsiębiorstwa. Organizacja może mieć dostęp do nadzwyczajnych możliwości AI, a mimo to być strukturalnie niezdolna do ich wchłonięcia.

Instytucja finansowa może wdrożyć agenta zdolnego do prowadzenia zaawansowanych analiz, podczas gdy jej system kontroli zakłada, że każdą decyzję o istotnych konsekwencjach podejmuje analityk. Sprzedawca detaliczny może zautomatyzować decyzje dotyczące cen, zapasów i relacji z klientami, podczas gdy odpowiedzialność nadal jest zorganizowana wokół ludzkich menedżerów. Firma technologiczna może pozwolić systemom AI na generowanie i testowanie oprogramowania z bezprecedensową szybkością, podczas gdy przeglądy bezpieczeństwa, zarządzanie zmianą i reagowanie na incydenty nadal są zaprojektowane wokół ludzkich cykli tworzenia oprogramowania.

Możliwości się zmieniły. Instytucja — nie.

Doświadczenia z pracy w komitetach audytu i ryzyka oraz w sektorach usług finansowych, handlu detalicznego, mediów, dóbr luksusowych, sportu i technologii potwierdzają ten sam wzorzec: możliwości mogą pojawić się wszędzie jednocześnie, podczas gdy tempo absorpcji znacząco różni się w zależności od regulacji, starszej infrastruktury, struktury zatrudnienia i dojrzałości kontroli.

Ta różnica ma znaczenie. Z perspektywy ryzyka i pośrednictwa ubezpieczeniowego jest to moment, w którym ryzyko AI przestaje być dokumentem analitycznym, a zaczyna mieć wpływ na składkę. Ubezpieczyciele, inwestorzy, regulatorzy i zarządy ostatecznie zadają pytania o podobnym znaczeniu: Czy organizacja może wykazać, że rozumie tworzone przez siebie ryzyko i potrafi je kontrolować?

Czy zarządzanie powinno poruszać się równie szybko jak AI?

Oczywistą odpowiedzią byłoby przyspieszenie zarządzania. Szybsze zarządzanie nie jest jednak automatycznie lepszym zarządzaniem.

Celem nie powinno być być może zarządzanie w tempie technologii, lecz zarządzanie w tempie wymaganym do zachowania kontroli. Właściwe pytanie dla zarządu może nie brzmieć: „Czy zatwierdziliśmy tę możliwość AI?”. Może raczej brzmieć: „Co zmieniło się w profilu możliwości, autonomii, dostępu lub konsekwencji od czasu naszego ostatniego zatwierdzenia i czy nasze mechanizmy kontroli odpowiednio się zmieniły?”.

To trudniejsze pytanie, ale również bardziej użyteczne.

Instrument zarządzania

Większość komentarzy na temat AI kończy się ostrzeżeniem. Zarządy potrzebują czegoś bardziej praktycznego: mechanizmu, który zakłada, że sytuacja będzie się zmieniać.

Odpowiedzią nie jest lepsza prognoza tego, kiedy może nastąpić osobliwość. Jest nią dynamiczna brama zarządzania, która mierzy, czy instytucja nadal potrafi kontrolować to, co wdrożyła.

Taki instrument powinien mieć pięć cech:

1. Wyraźne bramy etapowe. Programy AI powinny przechodzić przez oceniane kryteria, a nie tylko narracyjne aktualizacje statusu. Możliwości, autonomia, dostęp, zakres kontroli, odporność i odpowiedzialność powinny być oceniane w sposób jednoznaczny.
2. Częściowe zaliczenie. Organizacje muszą widzieć, w jakich obszarach się poprawiają, nie myląc postępu z gotowością.
3. Twardy próg zaliczenia. Jeżeli krytyczny wymóg kontroli nie jest spełniony, optymizm nie powinien umożliwiać obejścia tego warunku.
4. Etapy decyzyjne oddzielone od wyników. Zarząd może świadomie zaakceptować ryzyko, co jest uzasadnionym elementem zarządzania. Ocena powinna jednak pozostać widoczna jako osąd, a nie być ukrywana pod postacią liczby.
5. Częstsza aktualizacja. Jeżeli możliwości mogą istotnie zmienić się między kwartalnymi posiedzeniami zarządu, raportowanie kwartalne jest strukturalnie niezdolne do zapewnienia wystarczającej widoczności. Istotny program dotyczący czołowej AI może wymagać cotygodniowych aktualizacji.

Ten model jest stosowany w ramach działającego programu bankowości cyfrowej. Wniosek możliwy do zastosowania w innych obszarach jest prosty: gdy otoczenie szybko się zmienia, zarządzanie musi mierzyć ruch, a nie tylko go dokumentować.

Zarządy powinny zatem potrafić odpowiedzieć na kilka pytań: Co system potrafi teraz, czego nie potrafił podczas ostatniego przeglądu? Jakie decyzje lub działania może podejmować bez bezpośredniej interwencji człowieka? Do jakich systemów, danych, poświadczeń i podmiotów trzecich ma dostęp? Które mechanizmy kontroli działają przed tymi działaniami, w ich trakcie i po ich wykonaniu? Jakie dowody pokazują, że te mechanizmy działają? Co zmieniło się w zakresie ryzyka rezydualnego? Czy zdolność instytucji do wchłonięcia tych możliwości nadążyła za samymi możliwościami?

Jeśli kierownictwo nie potrafi odpowiedzieć na te pytania, problem nie dotyczy już wyłącznie dojrzałości AI. Dotyczy dojrzałości zarządzania.

Pytanie, nad którym powinny debatować zarządy

Osobliwość może ostatecznie okazać się nieciągłością inteligencji. Zarządy nie muszą jednak rozstrzygać tego filozoficznego pytania. Istnieje bardziej bezpośrednia nieciągłość, którą warto objąć zarządzaniem: możliwość, że możliwości maszyn będą kumulować się szybciej niż kontrola instytucjonalna.

Pod tym pytaniem kryje się uzasadniona debata. Być może odpowiedzią jest silniejsze zarządzanie. Być może lepiej zaprojektowane zarządzanie. W niektórych przypadkach odpowiedzią może być niewdrażanie danej możliwości do czasu, aż instytucja będzie w stanie ją wchłonąć.

To ostatnie stanowisko sfrustruje niektórych liderów technologicznych. I powinno. Celem zarządzania nie jest ułatwianie wdrażania. Zarządzanie nie powinno jednak również stawać się wymówką dla instytucjonalnego paraliżu. Wyzwaniem jest rozpoznanie różnicy.

Pytanie zarządu nie brzmi zatem: „Kiedy maszyny nas przewyższą?”. Brzmi: „Ile autonomii jesteśmy gotowi nadzorować, zanim będziemy wiedzieć, że nasza instytucja potrafi ją wchłonąć?”.

To pytanie, na które zarząd może odpowiedzieć. W przeciwieństwie do daty osobliwości nie można go odłożyć.

Osobliwość jest pytaniem o maszyny. Luka w zarządzaniu jest pytaniem o nas.

Oryginalne źródło: TechNext24