Szybkie wdrażanie agentów AI w przedsiębiorstwach na całym świecie wprowadzuje zupełnie nowy wymiar ryzyka, jednocześnie drastycznie potęgując zagrożenia wewnętrzne. Organizacje muszą teraz zarządzać sposobem, w jaki agenci wchodzą w interakcje z użytkownikami, innymi agentami, danymi i aplikacjami — a kontrolowanie tych interakcji szybko staje się najważniejszym wyzwaniem bezpieczeństwa, przed którym stoją współczesne przedsiębiorstwa. W miarę jak firmy wdrażają agentów do zadań ranging od obsługi klienta, przez generowanie kodu, aż po analizę danych, każda nowa integracja poszerza powierzchnię ataku w sposób, na który tradycyjne ramy bezpieczeństwa nigdy nie były projektowane.

To, co odróżnia tę zmianę od poprzednich ewolucji w dziedzinie bezpieczeństwa przedsiębiorstw, to połączenie prędkości i autonomii. Zagrożenie ze strony człowieka wewnętrznego zazwyczaj rozwija się przez dni lub tygodnie, pozostawiając po sobie wykrywalne wzorce. Agent AI może natomiast wykonać tysiące autonomicznych działań w czasie, jakiego zespół bezpieczeństwa potrzebuje, aby w ogóle zauważyć, że coś poszło nie tak. To nie jest różnica marginalna — to fundamentalnie inna kategoria ryzyka, a większość organizacji wciąż kalibruje swoje mechanizmy obronne pod kątem tej poprzedniej.

Hugging Face, platforma open-source hostująca setki tysięcy modeli AI i zbiorów danych używanych przez przedsiębiorstwa na całym świecie, jasno udowodniła, że agent AI, gdy zostanie mu przypisany określony cel, może obejść bariery zaprojektowane, aby go ograniczyć. Skoro naruszenie jest już faktem, pytanie nie brzmi już, czy należy wdrożyć zabezpieczenia, lecz kiedy. Zamiast jednak skupić się na tym, co się wydarzyło i jak ruszyć naprzód, branża wybiera skupianie się na pobocznych zmiennych, które jedynie zaciekawiają obraz sytuacji.

Podstawowa kwestia jest następująca: odpowiedzialności za sprostanie temu ryzyku nie można pozostawić wyłącznie dostawcom modeli. Nie należy oczekiwać, że ani firmy tworzące modele graniczne, ani twórcy modeli open-source dostarczą ochronę cybernetyczną dla tworzonego przez siebie oprogramowania.

Cyberbezpieczeństwo zawsze było odrębną, wyspecjalizowaną dyscypliną. Muszą się nim zajmować organizacje z głęboką wiedzą domenową. Era AI wymaga architektur bezpieczeństwa budowanych od podstaw pod kątem widoczności, nadzoru i kontroli w czasie rzeczywistym — a nie narzędzi zaadaptowanych z rozwiązań projektowanych dla zupełnie innego zestawu problemów.

To nie kwestia braku zaufania do twórców modeli. Odzwierciedla to fundamentalną zasadę funkcjonowania bezpieczeństwa od dziesięcioleci. Zespół, który tworzy produkt, rzadko jest zespołem najlepiej wyposażonym do jego zabezpieczenia, ponieważ budowanie i zabezpieczanie to dwie odrębne dyscypliny o fundamentalnie różnych mandatach. To była prawda w przypadku oprogramowania korporacyjnego dwie dekady temu i pozostaje równie prawdziwe dla systemów AI obecnie.

Nie chodzi o wyścig AI: USA kontra Chiny

Odruch przedstawiania tego jako debaty open-source kontra closed-source albo przeciwstawiania modeli jednego narodu modelom drugiego, mija się z istotą tego, co się wydarzyło, i odwraca uwagę od samego zdarzenia. Nacjonalizm nie ma tu znaczenia. To nie jest kwestia chińskich modeli open-source kontra amerykańskich modeli closed-source. Wyzwania generowane przez AI nie są ograniczane przez granice państwowe — jeśli już, te granice mogą potęgować techniczne, polityczne, społeczne i ekonomiczne przeszkody, z którymi wszyscy musimy się zmierzyć.

W rzeczywistości cyberbezpieczeństwo może być najmniejszym z zmartwień. Leżące u podstaw wyzwania wykraczają daleko poza jakąkolwiek pojedynczą branżę, a traktowanie ich jako geopolitycznego współzawodnictwa nie przybliża nas do rozwiązania. Wyznaczanie granic i podsycanie niekontrolowanej rywalizacji między narodami jest kontrproduktywne, jeśli chodzi o rozwiązywanie problemów stawianych przez modele AI nowej generacji.

Ramyowanie tej sytuacji jako rywalizacji między państwami powoduje również błędną alokację uwagi i zasobów. Każda godzina poświęcona na debatę nad tym, skąd pochodzi model, to godzina niepoświęcona na budowanie mechanizmów kontrolnych, które mogłyby zapobiec incydentom podobnym do tego, niezależnie od pochodzenia modelu. Powierzchnia ataku jest obojętna na paszport modelu.

Argument za globalną współpracą

Sprostanie szerszym wyzwaniom związanym z ryzykiem AI wymaga działania zbiorowego. Wymaga to globalnej współpracy w zakresie bezpieczeństwa AI — łącząc firmy tworzące modele, ekspertów ds. bezpieczeństwa, rządy i przedsiębiorstwa, z każdym wnosiącym odpowiednią wiedzę specjalistyczną. Taka jest droga do ochrony innowacji bez hamowania jej postępu.

Open Secure AI Alliance, kierowana przez Nvidia, to krok w dobrym kierunku, ale to dopiero początek. Pozostaje znacznie więcej do zrobienia. Globalne koalicje i fora międzynarodowe, takie jak Światowe Forum Ekonomiczne (WEF), stanowią platformę dla ekspertów o różnorodnych perspektywach, pozwalającą rozwiązywać złożone wyzwania w zakresie zarządzania, bezpieczeństwa i polityki, które stworzyła sztuczna inteligencja.

Każda z tych grup posiada krytyczny element zagadki bezpieczeństwa AI. Firmy tworzące modele posiadają niezrównaną wiedzę na temat systemów, które zbudowały. Firmy zajmujące się bezpieczeństwem rozumieją, jak myślą przeciwnicy i jak w praktyce dochodzi do naruszeń bezpieczeństwa w przedsiębiorstwach — wiedzę gromadzoną przez dekady praktyki. Rządy mogą harmonizować i ustanawiać standardy, które zapewniają całemu ekosystemowi wspólny punkt odniesienia. Żadna z tych grup nie może zastąpić ról pozostałych, i udawanie, że jest inaczej, to właśnie sposób, w jaki luki takie jak ta, którą właśnie zaobserwowaliśmy, stają się coraz szersze.

Każde współczesne przedsiębiorstwo wykorzystuje agentów AI z pewnym stopniem autonomii, a ich liczba będzie tylko rosnąć. Warto zadać pytanie nie o to, które laboratorium zbudowało model ani z jakiego kraju pochodzi. Ale raczej o to, czy ktoś monitoruje wystarczająco uważnie, aby przechwycić to, co agenci ci są gotowi zrobić w następnej kolejności.

Opinie wyrażone w komentarzach na Fortune.com są wyłącznie poglądami ich autorów i niekoniecznie odzwierciedlają opinie i przekonania Fortune.

Ten artykuł pierwotnie ukazał się na Fortune.com.