Ustawodawcy przyspieszają prace nad przepisami dotyczącymi bezpieczeństwa AI w obliczu narastających obaw przed wyginięciem ludzkości
Najważniejsze informacje
- •Od czasu rezygnacji Jacoba Coxona z Anthropic 8 września 2026 r. ponad 20 członków Kongresu publicznie wezwało do zaostrzenia nadzoru nad AI.
- •Ponadpartyjny projekt Senatu uczyniłby testy bezpieczeństwa, audyty stron trzecich, ustandaryzowane raportowanie i interwencję rządu egzekwowalnymi wymogami dla zaawansowanych modeli AI.
- •Przepisy ustanowiłyby prawny obowiązek zachowania należytej staranności, potencjalnie narażając twórców na odpowiedzialność, gdy szkodliwe systemy powstaną wskutek niewystarczających środków ostrożności.
- •Badacz Anthropic Evan Hubinger oszacował, że prawdopodobieństwo wywołanego przez AI zdarzenia prowadzącego do wyginięcia ludzkości w ciągu najbliższej dekady przekracza 10%.
- •Ustawodawcy mają trudności ze zdefiniowaniem wykonalnych zasad przed listopadowymi wyborami uzupełniającymi, a projekt nie stanowi jeszcze obowiązujących ram regulacyjnych.
Rezygnacja badacza z jednej z najbardziej znanych firm zajmujących się sztuczną inteligencją, a następnie ostrzeżenia, że technologia ta może doprowadzić do wyginięcia ludzkości w ciągu dekady, wydają się przyspieszać działania Kongresu w sprawie bezpieczeństwa AI.
Rezygnacja Jacoba Coxona z Anthropic 8 września 2026 r. nadała impet pracom nad wiążącymi przepisami federalnymi po latach publikacji naukowych i dyskusji konferencyjnych, które przyniosły ograniczone rezultaty. W kolejnych dniach ponad 20 członków Kongresu publicznie wezwało do zaostrzenia nadzoru. Jednocześnie ponadpartyjna grupa senatorów rozwija projekt przepisów, które nałożyłyby prawny „obowiązek zachowania należytej staranności” na twórców potężnych modeli AI. Projekt przeniósłby kluczowe środki bezpieczeństwa z dobrowolnych zobowiązań firm do obowiązków egzekwowanych na mocy prawa.
Projekt ustawy i jego zwolennicy
Senatorowie Amy Klobuchar, John Thune i Ted Cruz przewodzą tej inicjatywie. Proponowane przez nich przepisy przekształciłyby dobrowolne zobowiązania dotyczące bezpieczeństwa podejmowane przez firmy AI w egzekwowalne wymogi prawne.
Kluczowe postanowienia projektu wymagałyby przeprowadzania testów bezpieczeństwa zaawansowanych systemów AI przed ich udostępnieniem. Nakładałyby również obowiązek niezależnych audytów przeprowadzanych przez podmioty zewnętrzne oraz ustandaryzowanego raportowania przez twórców. Ponadto projekt przyznałby rządowi uprawnienia do interwencji i zablokowania udostępnienia modeli AI uznanych za niebezpieczne. Przepisy te uczyniłyby testowanie, zewnętrzną ocenę i ujawnianie informacji kluczowymi warunkami udostępniania najpotężniejszych systemów.
Zgodnie z proponowanymi zasadami firmy rozwijające przełomowe modele AI miałyby formalny obowiązek zachowania należytej staranności. Mogłyby ponosić konsekwencje prawne, gdyby ich systemy wyrządziły szkody, a firmy nie podjęły rozsądnych środków ostrożności.
OpenAI publicznie poparło obowiązkowe krajowe standardy bezpieczeństwa i rygorystyczne protokoły testowania. To stanowisko jest godne uwagi, ponieważ proponowane wymogi bezpośrednio objęłyby tę firmę.
Obawy napędzające debatę
Evan Hubinger, inny badacz Anthropic, publicznie oszacował, że prawdopodobieństwo wywołanego przez AI zdarzenia prowadzącego do wyginięcia ludzkości w ciągu najbliższej dekady przekracza 10%.
Anthropic opublikowało również raport dotyczący zagrożeń, w którym zakwestionowano bezpieczeństwo niektórych nowszych modeli AI firmy, zwłaszcza ze względu na ich potencjał do pomocy w opracowywaniu broni biologicznej.
Przeszkody legislacyjne
Kilku ustawodawców ostrzegło, że opracowanie poprawnych pod względem technicznym przepisów będzie trudne w przypadku technologii rozwijającej się szybciej, niż Kongres jest w stanie planować przesłuchania. Listopadowe wybory uzupełniające stanowią kolejne utrudnienie. Niektórzy członkowie Kongresu mogą niechętnie głosować nad technicznie złożonymi ramami regulacyjnymi w czasie kampanii o reelekcję.
Kolejny etap debaty będzie zatem koncentrować się na tym, czy ustawodawcy zdołają określić wykonalne standardy testowania, audytowania, raportowania i interwencji, zanim kalendarz wyborczy ograniczy możliwości działania. Do czasu rozstrzygnięcia tych szczegółów projekt pozostaje próbą ustanowienia egzekwowalnych federalnych wymogów bezpieczeństwa, a nie obowiązującymi ramami regulacyjnymi.
Źródło: CryptoBriefing
