Anthropic przedstawił amerykańskim prawodawcom projekt federalnej ustawy, która znacząco ograniczyłaby możliwości blokowania zaawansowanych modeli sztucznej inteligencji przez władze, w kontekście rosnących obaw o bezpieczeństwo AI, gdy Kongres rozważa nowe zasady nadzoru. Projekt pojawia się w momencie, gdy w Kongresie toczą się już liczne prace nad nadzorem nad AI, dając prawodawcom korporacyjny punkt odniesienia w tej debacie.

Zgodnie z doniesieniami poufny projekt zakłada próg szkód wynoszący 1 miliard dolarów albo ryzyko obejmujące ponad 50 poważnych ofiar jako warunki interwencji rządowej. Anthropic potwierdził, że projekt odzwierciedla jego Advanced AI Framework, opublikowany w czerwcu, który przewiduje niezależne testy oraz nadzór rządowy.

Zgodnie z projektem niezależni ewaluatorzy okresowo ocenialiby modele AI na froncie badań i mieliby obowiązek zgłaszania kwalifikujących się zagrożeń bezpieczeństwa władzom federalnym w ciągu 72 godzin. Propozycja uchyliłaby również niektóre stanowe regulacje AI, nakładając jednocześnie na deweloperów obowiązek publikacji raportów transparentności oraz zapewnienie ochrony sygnalistów.

Projekt Anthropic określa granice interwencji rządowej

Projekt pozwalałby władzom zatrzymać zaawansowany model AI wyłącznie wtedy, gdy stwarza on przewidywalne i bezpośrednie zagrożenie. Ryzyko musiałoby dotyczyć broni biologicznej, cyberataków lub situation, w której system AI wymknąłby się spod kontroli dewelopera.

Zgodnie z propozycją interwencja federalna wymagałaby potencjalnych szkód przekraczających 1 miliard dolarów poważnego uszczerbku na zdrowiu ponad 50 osób. Departament Handlu najpierw oceniłby zagrożenie, a następnie zwróciłby się do federalnego sędziego o zawieszenie wydania lub użytkowania modelu. Zgodnie z proponowanymi ramami tylko Sąd Okręgowy USA dla Dystryktu Kolumbii mógłby autoryzować takie zawieszenie, a inne agencje federalne co do zasady nie miałyby na mocy ustawy uprawnień do samodzielnego wstrzymania rozwoju, wdrożenia ani wewnętrznego użytkowania modeli. Taka konstrukcja skierowałaby interwencję przez jeden departament i jeden sąd — węższą ścieżkę niż silniejsze uprawnienia kontrolne rządu, o które zabiegali niektórzy senatorowie.

Ustawa wymagałaby od deweloperów modeli AI na froncie badań poddawania się okresowym ocenom przez niezależnych ewaluatorów zarejestrowanych w Departamencie Handlu. Firmy mogłyby płacić ewaluatorom za ich usługi, jednak wynagrodzenie nie mogłoby zależeć od wyniku tych ocen.

Ewaluatorzy, którzy zidentyfikują bezpośrednie kwalifikujące się zagrożenie, mieliby 72 godziny od zakończenia oceny na powiadomienie Departamentu Handlu. Deweloperom zostałby nałożony szereg wymogów dotyczących ram bezpieczeństwa, raportowania incydentów, publicznej transparentności oraz ochrony sygnalistów.

Propozycja nawiązuje do wcześniejszych ustaleń Anthropic dotyczących niezależnych testów bezpieczeństwa AI. We wrześniu firma ogłosiła partnerstwo ewaluacyjne z Accenture w celu oceny zaawansowanych modeli i wzmocnienia zabezpieczeń.

Projekt Anthropic mógłby uchylić niektóre stanowe ustawy o bezpieczeństwie AI

Projekt uchyliłby niektóre wymogi stanowe dotyczące ujawniania ryzyka, niezależnych ocen oraz raportowania poważnych incydentów związanych z bezpieczeństwem AI. Zapis ten odpowiada na różnice w wymaganiach zgodności pojawiające się w poszczególnych stanach USA, szczególnie w Kalifornii i Nowym Jorku.

Zastąpienie wymogów stanowych regułami federalnymi podzieliło prawodawców w kwestii odpowiedniego poziomu nadzoru nad AI. Część Demokratów sprzeciwia się propozycjom, które mogłyby osłabić istniejące ochrony na poziomie stanowym, podczas gdy grupy branżowe opowiadają się za spójnymi wymogami ogólnokrajowymi. Wynik tej debaty pomoże określić, czy deweloperzy modeli na froncie badań będą działać według jednego standardu federalnego, czy w warunkach zgodności regulowanych odrębnie przez każdy stan.

Debata nastąpiła po wcześniejszych testach bezpieczeństwa obejmujących zaawansowanych agentów AI. Testy odnotowały przypadki, w których systemy AI podejmowały nieuprawnione działania, co wzbudziło pytania o mechanizmy kontrolne deweloperów oraz adekwatność niezależnych ocen.

Anthropic wcześniej dokumentował próby nadużywania jego modeli do badań biologicznych i cyberataków. Wrześniowy raport firmy o nadużyciach AI opisywał zablokowane żądania oraz dodatkowe zabezpieczenia wprowadzone w odpowiedzi na te zagrożenia.

W Kongresie przedstawiciele Lori Trahan i Jay Obernolte propagują ustawę FRONTIER Act, która dotyczy niebezpiecznych wdrożeń AI. Senatorowie John Thune, Amy Klobuchar i Ted Cruz niezależnie prowadzili rozmowy o ustawodawstwie obejmującym ryzyka katastrofalne i interwencję federalną.

Senator Maria Cantwell i inni prawodawcy opowiadali się za silniejszymi uprawnieniami kontrolnymi rządu, niż przewidują niektóre konkurencyjne propozycje. Tymczasem senator Bernie Sanders i przedstawiciel Greg Casar wspierali szersze ograniczenia w rozwoju zaawansowanych systemów AI.

Anthropic nie poparł publicznie żadnego konkretnego projektu ustawy w Kongresie, a jego propozycja nie stała się prawem. Prawodawcy nie zadeklarowali jeszcze, czy wniosą projekt firmy jako formalną ustawę.