Brad Smith, prezydent Microsoftu, powiedział BBC, że sztuczna inteligencja działa obecnie w oparciu o mniej zasad bezpieczeństwa niż produkty codziennego użytku, takie jak mleko czy pralki, i argumentuje, że ta dysproporcja powinna skłonić rządy — z Wielką Brytanią na czele — do ustanowienia wiążących kontroli, w tym wyłączników awaryjnych i obowiązkowego zgłaszania przypadków niewłaściwego zachowania agentów AI.

Smith dokonał tego porównania w wywiadzie dla BBC opublikowanym w weekend, opisując AI zarówno jako „narzędzie, jak i broń”, które wymaga pilnego nadzoru. „W tej chwili Twoja pralka podlega większej liczbie zasad bezpieczeństwa niż AI”, powiedział, jak relacjonuje BBC. „Każde opakowanie mleka, które widzisz w sklepie, podlega zasadom bezpieczeństwa i inspekcji.” To analogia przemyślana: produkty spożywcze i urządzenia gospodarstwa domowego funkcjonują w ramach wieloletnich systemów zasad i inspekcji, a argument Smitha sprowadza się do tego, że AI przerasta dobrowolne, oparte na samoregulacji podejście, które obecnie definiuje nadzór w USA.

Przedstawiciel Microsoftu wzywa do ram prawnych, które uczyniłyby firmy AI bardziej odpowiedzialnymi, gdy coś pójdzie nie tak z ich produktami. Zgodnie z jego propozycją firmy musiałyby zgłaszać awarie modeli, powiadamiać każdego, czyj system został naruszony przez niekontrolowanego agenta AI, oraz poddawać potężne modele niezależnej kontroli przed ich udostępnieniem publicznie. W praktyce usiłuje dać AI coś bliższego łańcuchowi rozliczalności, jakiego konsumenci oczekują już gdzie indziej: ujawnianych awarii, powiadamiania stron dotkniętych incydentem i przeglądu przed wprowadzeniem produktu na rynek.

Rozłam Białym Domem w sprawie samoregulacji

Nacisk Smitha na prawnie egzekwowane zabezpieczenia AI stawia go w sprzeczności z Białym Domem. Prezydent Trump argumentował, że Stany Zjednoczone powinny pozwolić branży AI na samoregulację, ostrzegając, że ostrzejsze przepisy mogłyby sprawić, iż kraj pozostanie w tyle za Chinami. Trump powtórzył to stanowisko na szczycie z kierownikami firm technologicznych w zeszłym miesiącu.

Szczyt ten zaowocował także jednostronicowym porozumieniem podpisanym przez kierowników OpenAI, Anthropic, Nvidia, Meta, Google i X Elona Muska — pakt, który Cryptopolitan opisał jako „moralnie wiążący”. Sygnatariusze zobowiązali się do korzystania z niezależnych audytorów i wprowadzenia zabezpieczeń mających zapobiec wymykaniu się modeli AI spod kontroli. Microsoft jednak nie podpisał tego porozumienia, jak podaje The Telegraph.

Smith przywitał porozumienie i stwierdził, że Microsoft byłby skłonny je podpisać. Ale w wywiadzie dla BBC ostrzegł, że same dobrowolne zobowiązania nie wystarczą. Nazwał porozumienie „dobrym krokiem” i „koniecznym krokiem”, ale dodał, że jego zdaniem nie jest ono już wystarczające.

Dobrowolne zobowiązania, ostrzegł, mogą niewiele zmienić w ograniczaniu największych ryzyk, ponieważ firmy, które już poważnie traktują bezpieczeństwo, chętniej będą się ich trzymać, podczas gdy te stanowiące największe zagrożenie mogą je zignorować.

Smith chce, by przewodzila Brytania

Smith wskazał także Wielką Brytanię jako kraj najlepiej przygotowany do ustanawiania globalnych standardów — przed Stanami Zjednoczonymi, a nawet przed Brukselą. Wskazał na brytyjski AI Security Institute, utworzony w 2024 roku za rządów ówczesnego premiera Rishi Sunaka jako AI Safety Institute. Instytucja ta uzyskała dobrowolne porozumienia pozwalające jej testować modele graniczne przed ich udostępnieniem. Ten dostęp do testów przed premierą to praktyczny punkt zaczepienia, na którym Smith wierzy, że Brytania może budować wiążące przepisy.

Według Smitha Wielka Brytania jest w silniejszej pozycji niż UE w kontaktach z Waszyngtonem, ponieważ amerykańscy decydenci patrzą na Londyn inaczej niż na Brukselę, powiedział BBC. Dodał, że unijny AI Act oparty na ryzyku wzbudził czujność amerykańskich decydentów.

Rząd brytyjski przygotowuje również zaostrzenie nadzoru nad AI. Minister ds. AI Kanishka Narayan ma w nadchodzącym wystąpieniu wezwać twórców modeli gran do większych działań na rzecz ograniczenia ryzyk bezpieczeństwa, podczas gdy legislacja wzmacniająca rządowy nadzór nabiera kształtów. To wystąpienie i czekający projekt ustawy to najbliższe punkty kontrolne, czy apel Smitha zaowocuje wiążącymi przepisami w Wielkiej Brytanii.

Oddzielnie The Telegraph poinformował, że Biały Dom przywrócił brytyjskiemu instytutowi dostęp do najnowszych modeli AI do testów. Dostęp ten został wcześniej wycofany, po tym jak firmy, w tym Anthropic i OpenAI, poproszono o zaprzestanie udostępniania swoich modeli.

Wyłączniki awaryjne i niekontrolowane agenty

Pomysł Smitha na „hamulce awaryjne” współbrzmi z poglądami CEO Microsoftu Satyi Nadelli, który wzywał, by modele AI posiadały mechanizm pozwalający człowiekowi wstrzymać lub wyłączyć system w trakcie zadania, gdyby wymknął się spod kontroli. „Musimy budować systemy zamknięte, których zachowanie możemy obserwować, których limity możemy testować i których działania zawsze możemy powstrzymać”, napisał wcześniej Nadella, jak relacjonuje the Guardian.

Ostrzeżenia te poprzedziły realne incydenty. Anthropic niedawno odkrył, że wersja jego modelu Claude skontaktowała się z policją i fałszywie twierdziła, że może pomóc rozwiązać morderstwo podczas testów — to rodzaj niewłaściwego zachowania agenta, który obowiązek zgłaszania Smitha zobowiązywałby firmy do ujawnienia.

Na spotkaniu u Trumpa kierownicy firm AI, w tym Dario Amodei, Sundar Pichai, Greg Brockman i Jensen Huang, poparli pozostawienie samoregulacji branży. Krytycy sprzeciwili się temu podejściu, argumentując, że pozwoliłoby ono firmom samodzielnie decydować, co kwalifikuje się jako bezpieczeństwo.

Spór toczy się obecnie na trzech torach — zakład Waszyngtonu na samoregulację, ryzykowe statuty Brukseli oraz wiążące przepisy, które Smith chce, by zapoczątkował Londyn — a który z nich stanie się punktem odniesienia dla innych rządów, to pytanie, na które jego kampania ma wpływać.

Źródło: Cryptopolitan