Kalifornia kieruje zarządzanie AI w stronę niezależnej weryfikacji

Nowe kalifornijskie przepisy dotyczące audytów AI wskazują na odejście od sytuacji, w której firmy same składają deklaracje dotyczące bezpieczeństwa, na rzecz konieczności potwierdzania tych deklaracji w niezależnych audytach.

11 września 2026 r.

Przez lata firmy rozwijające sztuczną inteligencję w dużej mierze same odpowiadały za ocenę bezpieczeństwa własnych systemów. Kalifornia zaczyna zmieniać to podejście.

Gubernator Kalifornii Gavin Newsom podpisał w tym tygodniu dwie ustawy, które tworzą podstawy niezależnych audytów systemów AI przeprowadzanych przez podmioty zewnętrzne. Ustawy ustanawiają ramy niezależnych audytów, w tym zasady, na jakich organizacje zewnętrzne mogą oceniać zgodność systemów AI z prawem stanowym. Określają również standardy niezależności, przejrzystości i rzetelności audytorów.

Przepisy są efektem kilkuletniego rozwoju polityki AI w Kalifornii. W 2023 roku Newsom wydał rozporządzenie wykonawcze ustanawiające wytyczne dotyczące wykorzystania generatywnej AI przez stan. W 2024 roku stan przyjął szerszy pakiet przepisów dotyczących AI, obejmujący między innymi deepfake’i, znakowanie wodne, dzieci i pracowników. W ubiegłym roku Kalifornia uchwaliła ustawę Transparency in Frontier Artificial Intelligence Act, która nakłada na twórców frontier AI obowiązek publicznego ujawniania ram bezpieczeństwa oraz zgłaszania określonych krytycznych incydentów związanych z bezpieczeństwem.

Moment wprowadzenia zmian jest istotny, ponieważ systemy frontier coraz częściej zachowują się w sposób, którego ich twórcy nie przewidzieli ani nie autoryzowali.

OpenAI przyznało w tym tygodniu, że w maju więcej jego agentów zadziałało niezgodnie z założeniami, omijając ograniczenia piaskownicy i podejmując nieautoryzowane działania w kilku serwisach internetowych. Początkowo firma nie przyznała, że była zaangażowana w jeden z tych incydentów, lecz później potwierdziła, że jej agenci opublikowali treści w kilku serwisach internetowych. Zdarzenie uwypukla szersze wyzwanie związane z rosnącą autonomią systemów AI: twórcy nadal w dużej mierze odpowiadają za badanie i wyjaśnianie zachowania własnych systemów.

Anthropic zwrócił w tym tygodniu uwagę na podobny problem, wzywając do podjęcia „weryfikowalnych działań” na rzecz kontrolowania tempa rozwoju AI frontier po lipcowym incydencie, w którym jego model Claude Mythos ominął zabezpieczenia. Propozycja odzwierciedla rosnące przekonanie, że środki bezpieczeństwa AI trzeba będzie demonstrować, a nie tylko obiecywać.

Znaczenie dla przedsiębiorstw

Audyt przeprowadzany przez podmioty zewnętrzne nie dotyczy wyłącznie nadzoru regulatorów nad firmami AI. Dla przedsiębiorstw niezależne audyty mogą stanowić dodatkową warstwę należytej staranności przy ocenie dostawców AI, szczególnie w miarę jak systemy autonomiczne przejmują większą odpowiedzialność wewnątrz organizacji.

Może to nabierać coraz większego znaczenia, gdy firmy zapewniają systemom AI dostęp do wrażliwych danych, aplikacji i przepływów pracy. Jeśli niezależne oceny staną się powszechniejsze, przedsiębiorstwa wdrażające AI mogą uzyskać zewnętrzne dowody na to, czy deklaracje dostawców dotyczące bezpieczeństwa, ochrony i zarządzania znajdują potwierdzenie w praktyce.

Kolejny etap zarządzania AI może zatem w mniejszym stopniu koncentrować się na tym, co firmy obiecują, a w większym — na tym, co są w stanie udowodnić.

Również w wiadomościach dotyczących AI w tym tygodniu

• Qualcomm wyprodukuje niestandardowe układy dla Amazon w ramach transakcji o wartości 4 mld USD: Producent układów zawarł z Amazonem dużą umowę na opracowanie niestandardowych układów AI i układów dla centrów danych, pozyskując kolejnego klienta wśród operatorów hiperskalowych w miarę dalszej ekspansji w obszarze infrastruktury AI. Źródło

• John Deere pozyskuje nowe informacje z danych dzięki technologii AI: Koncern rolniczy dodaje generatywną AI do swojej platformy zarządzania gospodarstwami, pomagając rolnikom przekształcać dane dotyczące sprzętu i działalności operacyjnej w praktyczne decyzje dotyczące siewu, zbiorów i wydajności maszyn. Źródło

• Dell mierzy się z narastającymi niedoborami dostaw w związku z utrzymującym się wysokim popytem na AI: Międzynarodowa firma technologiczna doświadcza coraz większych problemów z dostępnością dostaw, ponieważ popyt na AI obciąża nie tylko segmenty pamięci, pamięci masowej i procesorów, lecz także komponenty chłodzenia, sieciowe i zasilające potrzebne do budowy kompletnych systemów AI. Źródło

• Startup Cognition zajmujący się AI do programowania wyceniany już na 48 mld USD: Dostawca narzędzi AI do programowania pozyskał 2 mld USD przy wycenie 48 mld USD, ponieważ entuzjazm inwestorów wobec narzędzi AI do programowania nadal rośnie. Źródło

• Google zainwestuje 15 mld USD w infrastrukturę AI w Finlandii: Gigant wyszukiwania i AI planuje zainwestować 15 mld USD w fińską infrastrukturę AI, rozbudowując sieć centrów danych w związku z rosnącym popytem na moc obliczeniową dla AI. Źródło

• Kulisy starań pracowników Google AI o utworzenie związku zawodowego i wdrożenie etyki korporacyjnej: Pracownicy Google DeepMind dążą do utworzenia związku zawodowego z powodu obaw etycznych dotyczących wykorzystania przez wojsko technologii AI i chmurowych firmy. Źródło

• Grupy zagrażające bezpieczeństwu zwiększają możliwości cyberataków dzięki AI: Hakerzy powiązani z państwami oraz przestępcy coraz częściej wykorzystują AI i automatyzację do zwiększania skali ataków, znajdowania nowych celów i omijania tradycyjnych zabezpieczeń. Źródło

• AWS AI Symposium: absolwenci TeenTech apelują o edukację w zakresie AI w szkołach: Absolwenci organizacji non-profit apelują o szerszą edukację dotyczącą AI w szkołach, ponieważ niedobór umiejętności pozostaje poważną barierą dla wdrażania AI. Źródło