Według trzech osób zaznajomionych z prywatnymi rozmowami Anthropic nieoficjalnie przedstawia ustawodawcom na Capitol Hill projekt ustawy dotyczącej bezpieczeństwa najnowszych modeli AI. Proponowane przepisy pozwoliłyby rządowi USA zablokować model AI, jeśli stwarza on jasne, bezpośrednie zagrożenie przekraczające 50 ofiar śmiertelnych lub 1 miliard dolarów szkód finansowych.

Zgodnie z projektem ryzyko musiałoby dotyczyć cyberataku, stworzenia lub użycia broni biologicznej albo modelu, który skutecznie ominął zabezpieczenia narzucone przez swojego twórcę.

Propozycja pojawia się po kilku miesiącach, w których czołowi twórcy AI przyznali, że agenci AI wielokrotnie włamywali się na platformy internetowe lub testowali ich zabezpieczenia. Żadne z tych wczesnych naruszeń nie spowodowało szeroko zakrojonych ofiar śmiertelnych ani katastrofalnych strat finansowych.

Proponowane ograniczenia większy nacisk kładłyby na to, co zaawansowane systemy AI faktycznie potrafią w warunkach rzeczywistych, a nie wyłącznie na zobowiązaniach dotyczących bezpieczeństwa składanych przez ich twórców. W miarę jak modele stają się coraz sprawniejsze w pisaniu kodu, wykrywaniu luk w oprogramowaniu i samodzielnym wykonywaniu złożonych zadań, regulatorzy stają przed wyzwaniem ustalenia, kiedy możliwości systemu przekraczają próg akceptowalnego ryzyka.

Niezależne testy mogłyby pomóc ustalić, czy model jest w stanie obejść zabezpieczenia lub zostać nadużyty do szkodliwych działań, zanim trafi do szerszego grona odbiorców. Mimo to zdefiniowanie bezpośredniego zagrożenia pozostaje trudne, zwłaszcza że te same możliwości, które stwarzają zagrożenia bezpieczeństwa, mogą także pomagać badaczom w wykrywaniu i naprawianiu luk.

Federalny sędzia mógłby nakazać wstrzymanie modelu

W obronie projektuznik Anthropic stwierdził, że szkic odpowiada rekomendacjom bezpieczeństwa zawartym w opracowanym przez firmę Advanced AI Framework, opublikowanym w czerwcu. W tym dokumencie firma wskazała, że jej Claude Mythos Preview wykrył już tysiące poważnych luk w zabezpieczeniach, obejmujących każdy większy system operacyjny i przeglądarkę internetową. Podkreślano wówczas, że ten trend z pewnością przyspieszy, przynosząc rosnące ryzyko katastrofalnych szkód w świecie rzeczywistym.

Framework opowiadał się także za zrównoważonym podejściem regulacyjnym, które pozwala na interwencję rządową bez tłumienia innowacji. Anthropic utrzymywał, że gdy model AI stwarza skrajne zagrożenia, regulatorzy muszą posiadać ustawowe uprawnienia do jego zablokowania lub nakładania wysokich grzywien powiązanych z globalnymi przychodami, rosnących wraz z kolejnymi naruszeniami.

Jak dotąd Anthropic nie poparł publicznie żadnego konkretnego federalnego projektu ustawy w Kongresie, choć wsparł kilka stanowych ustaw o bezpieczeństwie AI, w tym dwa przepisy w Kalifornii, takie jak SB 53. Firma publicznie ogłosiła poparcie dla tego aktu, uchwalonego w zeszłym roku, który wymaga od firm tworzenia i udostępniania swoich ram bezpieczeństwa przy jednoczesnym działaniu na rzecz ograniczania poważnych ryzyk. SB 53 zobowiązuje także firmy do zgłaszania stanowi każdego poważnego incydentu bezpieczeństwa w ciągu 15 dni.

Zgodnie z propozycją Anthropic zewnętrzni audytorzy zarejestrowani w Departamencie Handlu regularnie testowaliby laboratoria i modele firmy. Choć laboratoria mogą finansować te oceny, wynagrodzenie nie może być uzależnione od wniosków audytora. Ponadto każde wykrycie „bezpośredniego, wyliczonego ryzyka” trzeba by zgłosić władzom federalnym w ciągu 72 godzin od zakończenia oceny. Gdyby projekt wszedł w życie, rozszerzyłby działania Anthropic na rzecz egzekwowalnych zasad bezpieczeństwa ze stolic stanowych na poziom federalny.

Jeśli Departament Handlu uzna, że model stwarza ryzyko, może wystąpić do sędziego o zablokowanie jego udostępnienia. Przepis zakazuje jednak wszelkim innym amerykańskim „departamentom, agencjom lub urzędnikom” wstrzymywania rozwoju, wdrażania ani wewnętrznego używania modelu. Niemniej federalny sędzia w Dystrykcie Kolumbii zachowuje uprawnienia do wydania takiego nakazu zawieszenia.

FTC wysyła wezwania sądowe do OpenAI i Anthropic

W środę Federalna Komisja Handlu wysłała cywilne wezwania sądowe do OpenAI i Anthropic, żądając dokumentacji dotyczącej incydentów bezpieczeństwa, które stają się dla branży rosnącym kryzysem. OpenAI odpowiedziało na wezwanie, mówiąc: „W miarę jak ulepszamy nasze modele i coraz bardziej pomagają ludziom w codziennym życiu, bezpieczeństwo pozostaje priorytetem. Będziemy konstruktywnie współprac z FTC.”

Jak ujawniło źródło, agencja zamierza w najbliższej przyszłości rozszerzyć swoje uprawnienia do wzywania także na podmioty zewnętrzne. Regulator mógłby zmusić dyrektorów i dyrektorów Anthropic i OpenAI do publicznych zeznań, dając ustawodawcom platformę do zmierzenia się z gigantami technologicznymi w kwestii bezpieczeństwa, w miarę jak rośnie publiczny niepokój o potencjalne skutki.

Według niedawnego sondażu przeprowadzonego przez The Associated Press-NORC Center for Public Affairs Research prawie dwie trzecie dorosłych Amerykanów uważa, że AI rozwija się zbyt szybko. Osiem na dziesięciu respondentów podkreśliło również znaczenie działań rządowych na rzecz utrzymania tej technologii pod kontrolą człowieka. Wyniki te szkicują nastroje społeczne wokół zarówno śledztwa FTC, jak i inicjatywy Anthropic na Capitol Hill.

Jak dotąd prezydent Trump nadal odrzuca apele o spowolnienie tempa rozwoju AI, powołując się na znaczenie tej technologii dla interesów strategicznych USA. Ostatnio ujawnił powołanie „Super Intelligence Force”, mającej pomóc w koordynacji wysiłków rządu federalnego w dziedzinie AI przy jednoczesnym utrzymywaniu kontaktów z konsumentami, organizacjami interesu publicznego i innymi interesariuszami. Miejsce projektu Anthropic w tym ujęciu pozostaje otwarte pytanie.