CrowdStrike Holdings (Nasdaq: CRWD) wprowadziło AI "kill switch" — mechanizm kontrolny umożliwiający organizacjom zatrzymanie źle zachowujących się agentów sztucznej inteligencji na żądanie. Funkcja została zaprezentowana podczas Fal.Con Europe, konferencji klientów firmy odbywającej się w Barcelonie.

Agenty AI to programy, które samodzielnie wykonują zadania, korzystając z loginów i danych uwierzytelniających pracownika. Ponieważ agenty te mogą działać autonomicznie w systemach korporacyjnych, ręczne wyłączenie daje zespołom IT i bezpieczeństwa bezpośredni sposób zatrzymania agenta, który zachowuje się nieoczekiwanie lub wprowadza niepożądane zmiany. A ponieważ ta aktywność przebiega pod tożsamością pracownika, kill switch zapewnia tym zespołom określony punkt interwencji w środowiskach, w których oprogramowanie autonomiczne i użytkownicy ludzcy współdzielą ten sam dostęp.

Kill switch odpowiada na wyzwanie, które narastało wraz z adopcją agentowego AI, w którym oprogramowanie wykonuje wieloetapową pracę przy ograniczonym nadzorze człowieka. Dostawcy technologii enterprise dodają mechanizmy kontrolne utrzymujące człowieka w pętli decyzyjnej w miarę, jak systemy autonomiczne uzyskują szerszy dostęp do aplikacji i danych firmowych. Na tym tle kill switch umieszcza decyzję człowieka dokładnie w momencie, gdy agent zaczyna działać nieprawidłowo, zamiast pozostawiać zespołom jedynie cofanie niepożądanych zmian po fakcie.

CrowdStrike, z siedzibą w Austin w Teksasie, to firma zajmująca się cyberbezpieczeństwem, znana przede wszystkim z platformy Falcon — natywnego dla chmury zestawu obejmującego ochronę endpointów, wywiad zagrożeń i reagowanie na incydenty. Założona w 2011 roku, spółka zadebiutowała na Nasdaq pod tickerem CRWD w czerwcu 2019 roku. Fal.Con to flagowa konferencja klientów firmy, a europejska edycja w Barcelonie była miejscem ogłoszenia.

Prezentację funkcji odnotowano wraz z umową o przejęcie wartą 495 milionów dolarów w sektorze sztucznej inteligencji, zgodnie z oryginalnym raportem. Ani cel tej transakcji, ani szczegóły wdrażania kill switcha nie zostały określone w raporcie, co czyni oba te elementy wartymi obserwacji w miarę pojawiania się nowych informacji.

Ta treść została po raz pierwszy opublikowana na COINOTAG.