Wiele osób w branży AI spodziewa się poważnego incydentu wywołanego przez sztuczną inteligencję w ciągu najbliższych sześciu do dwunastu miesięcy. Zarządzający Anthropic, OpenAI i innych dużych producentów już teraz pracują nad prawodawcami, którzy później napiszą zasady, donosi Axios.

Kadra zarządzająca przyznaje, że obecnie żadna ustawa o AI nie ma szans na uchwalenie, dlatego próbuje wyprzedzić ustawodawstwo awaryjne, które Waszyngton napisze, gdy uderzy pierwsza katastrofa.

Projekt Sandersa przewiduje do 20 lat więzienia za naruszenia

Planiści oczekują, że demokraci wyjdą z wyborów śródokresowych 3 listopada, które zdecydują o kontroli nad Kongresem, w silniejszej pozycji i szybko ruszą przeciwko zaawansowanej AI. Pierwszy incydent w ramach sześcio- do dwunastomiesięcznego horyzontu zarządów przypadłby na kadencję Kongresu wyłonionego w tych wyborach. Ale ten wysiłek zderza się z przestarzałym Kongresem, który nie rozumie tej technologii, gospodarką zależną od wydatków na centra danych oraz modelami open-weight, czyli AI, którego wytrenowane parametry są dziś publiczne i dostępne dla każdego do pobrania.

Firmy nie wierzą, że kontrola nad obiema izbami położy koniec wewnętrznym sporom, w tym podziałom wśród demokratów. Na stole leżą propozycje od zakazu superinteligencji po wstrzymanie zaawansowanego rozwoju.

Jeden z projektów, autorstwa senatora Berniego Sandersa i kongresmena Grega Casara, nosi nazwę Ban Artificial Superintelligence Act. Zakazywałby on AI dorównującej lub przewyższającej ludzi w szerokim zakresie zadań i wstrzymałby zaawansowane prace, dopóki nowa federalna agencja nie ustanowi standardów bezpieczeństwa. Kary mogą obejmować do 20 lat więzienia.

Obowiązkowe wyłączniki awaryjne dla zaawansowanych modeli popierają obie partie i część branży, choć niektórzy eksperci kwestionują, czy w ogóle da się wyłączyć wszystkie systemy sztucznej inteligencji -ór, który ma bezpośredni wpływ na to, czy taki nakaz w ogóle mógłby zadziałać.

Jeden z demokratycznych współpracowników powołał się na kryzys finansowy z 2008 roku i COVID jako przykłady szybkiego działania Kongresu w poprzednich sytuacjach kryzysowych.

Planiści Anthropic i OpenAI obawiają się ataku odcinającego prąd i wodę

Scenariusz uznawany przez planistów za najbardziej prawdopodobny to cyberatak na tyle duży, aby wyłączyć banki, internet, a nawet dostawy prądu i wody - rodzaj zakłóceń, które dotrą do gospodarstw domowych i firm daleko poza samą branżą AI. Spodziewają się, że pierwsza prawdziwa szkoda wyrządzona przez niebezpieczną AI jeszcze bardziej odwróci już nieufną opinię publiczną przeciwko branży.

CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman i prezydent Donald Trump, który unikał regulacji AI, wszyscy znaleźliby się na gorącym krześle.

Firmy testują też te najgorsze scenariusze metodą red team, atakując własne zabezpieczenia w poszukiwaniu luk. Analizy wojenne to standardowa praktyka w biznesie i bezpieczeństwie narodowym, ale w tym przypadku wielu starszych badaczy i menedżerów uważa, że poważny incydent jest nieunikniony.

"OpenAI przeprowadza ćwiczenia gotowości, podczas których zespoły omawiają i przepracowują szereg potencjalnych scenariuszy", powiedział rzecznik firmy. "Scenariusze te nie są traktowane jako nieuniknione, ale mają pomóc nam przygotować się na różne okoliczności." Anthropic odmówił komentarza.

W Korei Południowej samotny atakujący miał podobno wykorzystać chińskie modele AI, w tym DeepSeek, do zaatakowania dwóch banków i kradzieży danych dziesiątek tysięcy klientów. CrowdStrike ocenia z umiarkowaną pewnością, że atakujący to najprawdopodobniej osoba mówiąca po chińsku, a następnie atakujący zapytał Claude Code od Anthropic, gdzie sprzedać skradzione dane - według firmy bezpieczeństwa. Dla planistów to znak, że narzędzia AI są już wplatane w prawdziwe ataki, nawet gdy to człowiek pozostaje kierującą ręką.

Anthropic ujawnił cztery przykłady modeli Claude przedostających się podczas testów do otwartego internetu i włamujących do zewnętrznych systemów. Laboratoria badają też dziesiątki tysięcy przypadków nieoczekiwanego zachowania modeli - miarę tego, ile wciąż trzeba się nauczyć o tym, jak te systemy zachowują się po opuszczeniu kontrolowanych warunków.