Globalny wyścig o rozwój bardziej zaawansowanej sztucznej inteligencji był dotąd postrzegany przede wszystkim jako rywalizacja możliwości — definiowana przez to, kto zbuduje najinteligentniejszy model, wdroży najbardziej zdolne agenty i pierwszy osiągnie kolejną granicę. Cyberbezpieczeństwo pokazuje jednak, dlaczego możliwości to tylko część równania, pisze Richard Ireland, CEO GovWare, w komentarzu dla BusinessWorld.

AI zwiększa szybkość, z jaką można identyfikować luki, uruchamiać ataki i podejmować działania obronne, a znaczne inwestycje nie eliminują ryzyka. Z ostatnich badań wynika, że choć 83% kierowników ds. cyberbezpieczeństwa zwiększa wydatki, prawie 9 na 10 organizacji doświadczyło w minionym roku cyberataków.

Wyzwanie coraz częściej wykracza poza obronę pojedynczej organizacji, obejmując powiązania między nimi. Firma może mocno inwestować we własne zabezpieczenia, rząd może wzmacniać krajowe mechanizmy ochrony, a dostawca technologii może wprowadzać surowsze kontrole. Współczesne systemy cyfrowe zależą jednak od połączonych infrastruktur, dostawców, platform chmurowych i usług, które rzadko mieszczą się w ramach jednej organizacji lub jurysdykcji. W miarę jak aktywność cybernetyczna przyspies i staje się coraz bardziej autonomiczna, zdolność koordynacji ponad tymi granicami może stać się równie ważna jak zdolność obrony w ich obrębie.

Gdy prędkość maszyn spotyka granice organizacyjne

Systemy agentowe podnoszą stawkę, ponieważ mogą przechodzić od sygnału do decyzji i działania przy mniejszym udziale człowieka. Wyzwaniem jest nie tylko to, jaką władzę organizacje przekazują agentom AI, ale to, co się dzieje, gdy ich działania wykraczają poza granice organizacyjne — do systemów, danych i infrastruktury kontrolowanych przez inne podmioty.

Agenty AI są też częścią rosnącego uniwersum tożsamości nieludzkich — od aplikacji i zautomatyzowanych usług po konta maszynowe współdziałające w środowiskach cyfrowych. W miarę wzrostu ich autonomii organizacje potrzebują wyraźniejszych granic dotyczących tego, do czego mają dostęp, jakie działania mogą podejmować i gdzie interwencja człowieka pozostaje konieczna.

Odpowiedzialność staje się trudniejsza do ustalenia, gdy aktywność przekracza granice organizacyjne. Różne organizacje mogą funkcjonować w oparciu o odmienne kontrole, regulacje i progi ryzyka, nawet jeśli ich systemy są od siebie zależne. W tempie maszynowym wykrycie problemu to tylko część reakcji. Równie ważne jest to, jak szybko można udostępnić informacje, ustalić odpowiedzialność i podjąć skoordynowane działanie.

Sam wyścig AI dostarcza pouczającej lekcji. Anthropic zasygnalizował otwartość na skoordynowaną globalną pauzę w rozwoju zaawansowanej AI, jeśli uczynią to konkurenci. Podobnie główny naukowiec OpenAI ostrzegł, że AI rozwija się tak szybko, że staje się coraz trudniejsza do zrozumienia i kontroli przez człowieka, i oczekuje, że wiodące laboratoria AI dobrowolnie zwolnią rozwój z względów bezpieczeństwa. Wzięte razem te sygnały wskazują na wyzwanie wykraczające poza jakąkolwiek pojedynczą firmę: w środowisku konkurencyjnym zachowanie większej ostrożności staje się trudniejsze, gdy inni nie ustają w marszu naprzód.

Cyberbezpieczeństwo stoi przed podobnym wyzwaniem. Poszczególne organizacje mogą wzmacniać własną pozycję, ale wspólne ryzyka wymagają wspólnej gotowości.\n## Ryzyko cybernetyczne nie zatrzymuje się na granicach organizacyjnych

Cyberbezpieczeństwo przekształciło się ze specjalistycznej kwestii technologicznej w problem całej gospodarki, łączący ciągłość działania, infrastrukturę krytyczną, łańcuchy dostaw, systemy finansowe i zaufanie publiczne — a agentowe AI ten proces przyspiesza. Silne zabezpieczenia organizacyjne pozostają niezbędne, ale nie mogą w pełni zaradzić ryzykom przenoszącym się przez współdzieloną infrastrukturę, podmioty trzecie i transgraniczne ekosystemy technologiczne. Skompromitowany dostawca, współdzielona usługa chmurowa lub kluczowy dostawca technologii może dotknąć organizacji mających niewielką bezpośrednią kontrolę nad źródłem incydentu. W miarę pogłębiania się tych zależności odporność coraz bardziej zależy od tego, jak szybko organizacje mogą wymieniać informacje i koordynować reakcję.

To samo dotyczy poziomu państwowego. Ministerka Rozwoju Cyfrowego i Informacji Singapuru Josephine Teo zauważyła wcześniej w tym roku, że najbardziej zaawansowane modele AI powstają zaledwie w garstce krajów, podczas gdy współpraca w dziedzinie bezpieczeństwa AI pozostaje ograniczona. Tymczasem technologie i ich potencjalne ryzyka nie znają granic.

Dla Azji wyzwanie koordynacji ma szczególne znaczenie. Region obejmuje gospodarki o odmiennych środowiskach regulacyjnych, poziomach dojrzałości cyfrowej, infrastrukturze i gotowości cybernetycznej. Nie ma jednego środowiska działania, a incydent mający początek w jednym rynku lub części łańcucha dostaw może mieć konsekwencje gdzie indziej.

Budowanie gotowości przed kryzysem

Singapur ma do odegrania ważną rolę w ułatwianiu tych wymian. Jego zdolność do zjednywania rządów, globalnych firm technologicznych, przedsiębiorstw i praktyków pozwala słyszeć perspektywy, które nie zawsze zasiadają przy tym samym stole. Singapore International Cyber Week i GovWare stwarz okazje do takich rozmów, ponieważ bezpieczeństwo AI, rozliczalność i ryzyko transgraniczne coraz częściej wymagają perspektyw zarówno sektora publicznego, jak i prywatnego.

Konwencja ma znaczenie nie dlatego, że którekolwiek forum ma wszystkie odpowiedzi, lecz dlatego, że zbiorową gotowość trzeba budować, zanim kryzys tego zażąda. Rządy, firmy i dostawcy technologii będą musieli lepiej zgrać się w kwestii podziału ryzyka, tego, kiedy informacje powinny przekraczać granice organizacyjne, oraz tego, gdzie współpraca powinna mieć pierwszeństwo przed konkurencją. Ten sam program wyznacza konkretne punkty do obserwacji: czy informacje łatwiej przepływają przez granice organizacyjne przy incydentach, czy wspólne oczekiwania dotyczące tego, do czego agenty AI mają dostęp, jakie działania mogą podejmować i gdzie nadzór człowieka pozostaje konieczny, kształtują się w różnych branżach i jurysdykcjach, oraz czy deklarowana przez wiodące laboratoria AI gotowość do wspólnego zwolnienia tempa rozwoju przejdzie od deklaracji do praktyki.

Konkurencja pozostaje ważnym motorem innowacji w AI, ale postęp w możliwościach musi iść w parze z postępem w zabezpieczeniach, relacjach i mechanizmach współpracy potrzebnych do odpowiedzialnego wdrażania tych możliwości. Skoro cybernetyka porusza się z agentową prędkością, koordynacja nie może zaczynać się dopiero wtedy, gdy coś pójdzie nie tak.

Kolejny wyścig AI nie będzie jedynie testem tego, kto zbuduje najwięcej systemów. Będzie też testem, czy instytucje i relacje wokół nich potrafią wystarczająco szybko nadążyć.

Richard Ireland jest CEO GovWare. Ten komentarz został pierwotnie opublikowany przez BusinessWorld.