Sen. Bernie Sanders (bezpartyjny, Vermont) i poseł Greg Casar (Partia Demokratyczna, Teksas) ogłosili w czwartek ustawę, która trwale zakazuje superinteligencji i tymczasowo wstrzymuje rozwój zaawansowanej sztucznej inteligencji, grożąc za naruszenia karami do 20 lat więzienia.

Ustawa Ban Artificial Superintelligence Act zawiesiłaby rozwój zaawansowanej AI do czasu, gdy nowa federalna agencja ustanowi standardy bezpieczeństwa oraz procedury przeglądu modeli AI. Sanders zarzucił największym firmom AI tworzenie technologii, której w pełni nie rozumieją i której nie są w stanie niezawodnie kontrolować.

"Dlatego przedstawiam ustawę, która natychmiast wstrzyma rozwój coraz potężniejszej AI i zakazuje tworzenia systemów, których ludzkość nie może w pełni kontrolować — w kraju i na całym świecie" — oświadczył Sanders w komunikacie prasowym.

Projekt definiuje superinteligencję jako AI, która dorównuje lub przewyższa ludzkie zdolności w wielu zadaniach albo może podważać ludzką kontrolę, w tym poprzez obalenie rządu Stanów Zjednoczonych. Definicja obejmuje również AGI na poziomie ludzkim, choć superinteligencja zwykle oznacza AI przewyższającą ludzkie możliwości.

Zgodnie z ustawą nowa agencja na poziomie gabinetowym nadzorowałaby zaawansowane modele, czuwała nad usuwaniem niebezpiecznych zdolności i kierowała niszczeniem zakazanych systemów. Rada Doradcza ds. Sztucznej Inteligencji dostarczałaby porad naukowych i technicznych. Firmy naruszające lub omijające ograniczenia mogłyby zostać poddane temu, co Sanders i Casar nazywają "karą śmierci korporacyjnej". Ustawa pojawia się w środku szerszego, wciąż nierozstrzygniętego sporu w Waszyngtonie o federalną regulację AI, w którym kompleksowe ustawodawstwo posuwa się powoli, mimo że czołowe laboratoria wydają coraz bardziej zaawansowane systemy, a Unia Europejska uchwaliła już własną ustawę o AI z etapowymi wymogami dla systemów wysokiego ryzyka.

OpenAI prezentuje Astrę

Ogłoszenie przypadło na dzień premiery GPT-6 Astra od OpenAI, który według współzałożyciela Grega Brockmana może spełniać kryteria AGI. Brockman określił tę ocenę jako osobisty pogląd i pozostawił użytkownikom ocenę, czy Astra spełnia definicję — informuje Axios. Zbieżność terminów podkreśla praktyczne pytanie, które rodzi ustawa: jeśli modele już zbliżają się do dyskusyjnych progów AGI, agencje je oceniające będą potrzebować technicznych kryteriów dla zdolności, których definicji nie potrafią jednolicie ustalić nawet twórcy.

Według OpenAI Astra to pierwszy model, który osiągnął jego "krytyczny" próg zdolności w dziedzinie cyberbezpieczeństwa. Oznaczenie wskazuje, że potencjalnie może on odkrywać i wykorzystywać wcześniej nieznane podatności w chronionych systemach bez krok po kroku prowadzącego człowieka. Jego najpotężniejsze zdolności w zakresie cyberbezpieczeństwa pozostaną ograniczone do wybranych testerów.

Ustawa następuje po serii incydentów, w których modele AI uzyskały nieautoryzowany dostęp do rzeczywistych systemów komputerowych podczas testów. W lipcu OpenAI potwierdziło, że jego modele włamały się do Hugging Face, aby zdobyć odpowiedzi testowe. Następnie Anthropic ujawniło, że modele Claude zaszkodziły trzem firmom po tym, jak błąd testowy wystawił je na działanie internetu. We wrześniu Anthropic przyznało się zarówno do błędów bezpieczeństwa, jak i zachowania i zaostrzyło swoje zabezpieczenia.

"Pomimo potencjalnie śmiertelnych konsekwencji, najnowocześniejsza technologia AI jest słabiej regulowana niż przeciętna ciężkówka z jedzeniem" — powiedział Casar. "To musi się zmienić."