Mimo apeli liderów laboratoriów frontierowych AI o spowolnienie, większość przedsiębiorstw stawia na wzmocnienie zarządzania, zamiast wstrzymywać korzystanie ze sztucznej inteligencji – wynika z nowego raportu OneTrust, dostawcy rozwiązań w zakresie AI, prywatności i bezpieczeństwa danych.

Z raportu wynika, że choć wiele przedsiębiorstw doświadczyło w ciągu ostatniego roku problemów związanych z AI, większość nie spowalnia ani nie wstrzymuje wdrożeń AI. Do tych incydentów należy ujawnienie własności intelektualnej oraz korzystanie z danych, ich przekazywanie i usuwanie przez agentów AI.

Podczas sesji pytań i odpowiedzi dyrektor ds. innowacji OneTrust, Blake Brannon, omówił, dlaczego przedsiębiorstwa nadal naciskają na rozwój AI i jak mogą skupić się bardziej na zarządzaniu niż na szybkim postępie modeli AI.

Presja ze strony zarządów napędza rozwój

Raport zauważa, że mimo incydentów związanych z AI przedsiębiorstwa nadal zachęcają do korzystania z AI i agentów AI. Zapytany, co napędza dynamikę wdrażania tej technologii, Brannon wskazał na presję ze szczytu organizacji.

„W każdej firmie, od góry do dołu, tematem numer jeden, o który pyta zarząd, jest: »Co robimy z AI? Jak transformujemy sposób naszej pracy oraz budowane produkty i usługi? Czy zostaniemy zdyruptowani przez modele frontierowe, przez istniejące startupy? Jaka jest nasza fossa?«” – powiedział.

„Ta presja sprawia, że wszyscy działają nieco agresywnie, przyspieszają i próbują dowiedzieć się, jak wykorzystać AI.”

Gdy organizacje zaczynają oceniać i wdrażać te narzędzia, szybko pojawiają się kwestie zarządzania i bezpieczeństwa, powiedział Brannon. Wszyscy patrzą na rzeczywistość, w której w ciągu najbliższych dwóch lat w każdej firmie na świecie będzie więcej działających agentów niż ludzi.

Argumentował, że programy i procesy, które firmy zbudowały przez lata, aby się samymi sobą zarządzać, zostały zaprojektowane w epoce, gdy człowiek inicjował wszystko, co robiła firma – albo człowiek wykonywał daną pracę, albo człowiek budował deterministyczny system programowy, który to robił. Dzięki temu dało się tym działaniami zarządzać, ponieważ postępowały w tempie człowieka.

„Dziś mamy programistów-obywateli, budowniczych-obywateli. Każdy może zbudować agenta” – powiedział Brannon. To fundamentalnie łamie sposób, w jaki tradycyjne zarządzanie i bezpieczeństwo funkcjonowały w organizacjach, wyjaśnił, ponieważ to, co organizacje kiedyś robiły, aby chronić i zabezpieczać swoje dane, zajmowało tygodnie – a teraz musi być realizowane w sekundy.

Od proof of concept do skali

Zapytany, jak ta zmiana skłania organizacje do inwestowania w zarządzanie, Brannon powiedział, że zaufanie jest warunkiem brzegowym autonomii.

„Możesz stworzyć to całe wspaniałe AI, ale jeśli mu nie ufasz, nie możesz go wypuścić z syszy” – powiedział. „Nie możesz pozwolić mu działać autonomicznie, więc musisz to rozwiązać.”

Inwestycje stają się kluczowe, dodał, ponieważ przedsiębiorstwa wykraczają poza proof of concept i osiągają skalę. Ze skalą wiąże się proste pytanie: jak ufać AI, wiedzieć, co się z nim dzieje, i kontrolować je – dlatego organizacje poświęcają temu problemowi coraz więcej czasu.

Jednym ze sposobów ujęcia tego wyzwania, powiedział Brannon, jest wymóg, aby systemy AI zachowywały się tak, jak zachowywałaby się organizacja lub jej pracownik. To, co firma uznaje za akceptowalne działanie, jest zakorzenione w czynnikach takich jak zgodność z przepisami, praktyki bezpieczeństwa i obietnica marki – i agenci muszą naśladować te standardy. To, powiedział, jest jedną częścią problemu.

Drugą częścią jest zapobieganie złym zdarzeniom. „Musisz mieć włączone hamulce awaryjne samoch. Musisz zobaczyć, że ten agent podejmie destrukcyjne działanie, i chcesz to zatrzymać” – powiedział Brannon. To zadanie pełne niuansów, ponieważ systemy AI nie dziedziczą rzeczy takich jak tożsamość i uprawnienia ludzi, a „chcemy, aby człowiek znajdował się w środku czegoś takiego”.

Dwie zasady zarządzania szybko rozwijającym się AI

W miarę jak organizacje szybko wdrażają AI, a dostawcy technologii aktualizują swoje modele w zawrotnym tempie, Brannon przedstawił dwie zasady kształtujące architekturę potrzebną do przypisania zaufania tym systemom.

Pierwsza to uznanie, że samemu modelowi nie można ufać. „Prawie co weekend ktoś publikuje bloga lub artykuł z apelem: »Prosimy, uregulujcie nas, nie możemy ufać naszym systemom, a to jest bardzo niebezpieczne«” – powiedział.

Oznacza to, że organizacje muszą zakładać, iż model wymknie się spod kontroli, i że model mógłby manipulować samym sobą, aby przekonać samego siebie, że to, co robi, jest akceptowalne. Architektura zarządzająca musi być zatem niezależnym, oddzielnym mechanizmem od tego, co faktycznie jest nadzorowane.

„Tak funkcjonuje społeczeństwo od tysięcy lat” – powiedział Brannon. „Władza państwowa jest celowo rozdzielona. Działy firm są celowo rozdzielane, aby stworzyć wyraźny, wolny od stronniczości podział między organem zarządzającym a tym, co jest nadzorowane.” W przypadku AI oznacza to, że modele i dostawcy potrzebują niezależnego agenta zarządzającego, czyli niezależnego mechanizmu nadzoru, aby oceniać, co robi dany system i agent AI.

Druga wyłaniająca się zasada dotyczy złożoności nadążania za stale zmieniającymi się modelami i mechanizmami nadzoru. Brannon powiedział, że każda organizacja będzie korzystać z pofragmentowanego zestawu różnych dostawców modeli, modeli i mechanizmów, ponieważ marketing chce używać jednego, obsługa klienta potrzebuje czegoś innego, a inżynieria jeszcze czegoś innego. Ta fragmentacja tworzy ogromną złożoność w kontrolowaniu i zarządzaniu systemami, które wszystkie zachowują się inaczej.

Architektura, powiedział, przesuwa się w stronę prostszego pytania: kto przejmuje się tym, robi model, albo dlaczego model pomyślał to, co pomyślał? Dla przedsiębiorstwa istotne jest moment, w którym system AI faktycznie podejmuje działanie – gdy próbuje odczytać dane z systemu korporacyjnego, wysłać e-mail lub usunąć rekord. W praktyce przenosi to nacisk zarządzania na punkty, w których system AI może wpływać na dane i operacje przedsiębiorstwa, a nie na sam model.

„Właśnie wtedy przejmuje się zarządzaniem czymś” – powiedział Brannon. „Mogę zaprojektować swoje mechanizmy kontrolne wokół stałego punktu, w którym system łączy się z tym, na czym mi zależy, i móc wdrożyć odpowiednie zabezpieczenia i zasady właśnie w tym stałym punkcie.”

Uwaga redaktora: rozmowa pytaniami i odpowiedziami została zredagowana pod kątem stylu i zwięzłości.

Rozmowę pytaniami i odpowiedziami przeprowadziła dziennikarka AI Business Esther Shittu, która od 2021 roku relacjonuje trendy technologiczne i branżowe w obszarze AI oraz współprowadzi podcast Targeting AI.

Ten artykuł opiera się na materiałach opublikowanych przez AI Business 21 września 2026 r.: Accelerating AI adoption and governance amid an AI slowdown.