LONDYN — Prezes Microsoftu Brad Smith wezwał do pilnego wprowadzenia globalnych regulacji sztucznej inteligencji, w tym niezależnych ewaluatorów zdolnych do oceny nowych rozwiązań, ostrzegając, że AI podlega obecnie mniejszym wymogom bezpieczeństwa niż mleko.

W wywiadzie dla BBC opublikowanym w poniedziałek Smith powiedział, że konieczny jest zestaw globalnych zasad bezpieczeństwa, obejmujący wymóg informowania „poszkodowanego”, jeśli jego system zostanie naruszony przez zbuntowanego agenta AI, oraz dostępność „hamulca awaryjnego”.

Dodał również, że firmy powinny mieć prawnie nałożony obowiązek sporządzania „raportów o incydentach”.

„Wiemy, jak to robić w przypadku innych produktów,” powiedział Smith. „Powinniśmy bazować na tej wiedzy i zastanowić się, jak zastosować ją do AI.”

„Obecnie Twoja pralka podlega większej liczbie zasad bezpieczeństwa niż AI. Każde kartonowe opakowanie mleka, które widzisz w sklepie, podlega zasadom bezpieczeństwa i inspekcji.”

Firmy technologiczne, takie jak Anthropic i OpenAI, zaczęły ujawniać zbuntowane lub niepożądane zachowania agentów AI, co wpisuje się w globalną debatę o szybko rozwijającej się technologii, w której badacze ostrzegali przed ostatecznym egzystencjalnym zagrożeniem dla ludzkości. Sam Microsoft jest jednym z najważniejszych zwolenników OpenAI, z wielomiliardową inwestycją i partnerstwem technologicznym, które integruje modele tego startupu w jego produktach.

Niektóre firmy wzywały do spowolnienia rozwoju AI, co wywołało debatę, czy dyrektorzy nie mają ukrytych motywów, takich jak ustanawianie zasad chroniących przewagę ich firm, uprzedzanie szerszej reakcji rządów lub po prostu hamowanie oszalałych wydatków.

Smith powiedział, że Wielka Brytania jest krajem najlepiej przygotowanym do przewodzenia regulacjom AI, wskazując na AI Security Institute, utworzony za rządów byłego premiera Rishiego Sunaka podczas Szczytu Bezpieczeństwa AI w Bletley Park w 2023 roku. Dodał, że urzędnicy w Waszyngtonie postrzegają Londyn bardzo inaczej niż Brukselę, która reguluje AI według poziomu ryzyka w ramach AI Act — pierwszej na świecie kompleksowej ustawy o AI, której obowiązki są stopniowo wdrażane.

Brytyjski instytut otrzymuje dostęp przed wdrożeniem do głównych modeli AI na podstawie dobrowolnych porozumień, co pozwala mu oceniać ich możliwości i ryzyka. Jak dotąd Wielka Brytania nadzorowała AI za pośrednictwem istniejących regulatorów stosujących zasady nieustawowe, a nie za pomocą dedykowanej ustawy o AI.

Minister ds. AI Kanishka Narayan powiedział Reutersowi, że Wielka Brytania rozważy regulację zaawansowanych modeli, jeśli obecny system okaże się niewystarczający.

— Reuters