Kongres przez niemal dekadę odbywał przesłuchania dotyczące sztucznej inteligencji, niemal nic nie uchwalając, aby uczynić ją bezpieczniejszą. Teraz Rada Miasta Nowego Jorku chce sprawdzić, czy miasto może osiągnąć to, czego nie zdołał Waszyngton.

W piątek przewodnicząca Rady Miasta Julie Menin przedstawiła pakiet projektów ustaw, które wymagałyby, aby systemy AI sprzedawane w mieście przeszły niezależną walidację i były wyposażone w wyłącznik awaryjny, wynagradzały sygnalistów zgłaszających naruszenia oraz pozwalały mieszkańców Nowego Jorku pozywać firmy AI za szkody wyrządzone przez naruszone zabezpieczenia narzędzi. Ustawodawstwo zostanie rozpatrzone 5 października podczas posiedzenia plenarnego z udziałem wszystkich 51 radnych. W przeciwieństwie do zablokowanego wysiłku na poziomie federalnym rada zgłasza bezpośrednią jurysdykcję: firmy stojące za tymi systemami sprzedają swoje produkty w Nowym Jorku i utrzymują tam niektóre ze swoich największych biur.

„Oczywiście w żadnym wypadku nie chcemy hamować innowacji. Chcemy zapewnić, że Nowy Jork pozostanie stolicą AI świata, ale wiąże się z tym odpowiedzialność” – powiedziała Menin w wywiadzie dla Fortune. „Nie uważam, aby te dwie idee były w jakikolwiek sposób sprzeczne. W rzeczywistości uważam, że idą one w parze”.

„Chcesz być stolicą innowacji i chcesz być stolicą mądrej, rozsądnej regulacji i zabezpieczeń wokół niej, bo chcesz, aby ludzie mi zaufanie do samego produktu” – powiedziała.

Głośne przesłuchanie

Rada zaprosiła do złożenia zeznań Dario Amodei, Sama Altmana, Sundara Pichaia, Elona Muska i Marka Zuckerberga – dyrektorów generalnych odpowiednio Anthropic, OpenAI, Google, SpaceXAI i Meta. Przesłuchanie 5 października będzie posiedzeniem plenarnym – formułą, której Rada Miasta nie stosowała od 2022 roku.

Źródła znające szczegóły przesłuchania poinformowały Fortune, że żaden z pięciu zaproszonych kierowników najprawdopodobniej się nie zjawi, choć Rada Miasta zastrzega sobie prawo do wezwania ich sądownie. Firmy nie odpowiedziały natychmiast na prośby Fortune o komentarz. To, czy ktokolwiek z pięciorga się zjawi – lub czy rada podejmie kroki w celu przymuszenia ich do zeznań – będzie pierwszym widocznym testem stopnia oporu wobec pakietu.

Mimo to nie wyklucza to, że firmy będą reprezentować inni kierownicy, a Menin powiedziała, że celem jest zbudowanie zaufania społecznego do tych instytucji. „Tego rodzaju regulacje faktycznie zwiększają zaufanie ludzi do tych technologii AI” – powiedziała.

Miasta obejmują inicjatywę

Dla Menin, prawniczki regulacyjnej, która została politykiem, ustawodawstwo nie ma ograniczać się do granic miasta. „Jako prawniczka regulacyjna i jako osoba, która pełniła funkcję komisarza Departamentu Ochrony Konsumentów i Pracowników, mocno wierzę, że Nowy Jork absolutnie powinien odegrać wiodącą rolę” – powiedziała.

Opisała projekty ustaw jako studium przypadku z kursu, który prowadziła na Uniwersytecie Columbia, „When Cities Take the Lead”, poświęconego temu, co miasta powinny robić „gdy rząd federalny dereguluje albo nie podejmuje działań”.

„To być może jeden z najgłośniejszych przypadków tego rodzaju, gdzie mamy produkt w postaci AI, który jest bardzo słabo regulowany” – powiedziała Menin. „W Nowym Jorku regulujemy wszelkiego rodzaju produkty i usługi, od zakładów fryzjerskich po salony kosmetyczne, a tymczasem mamy sytuację z AI, gdzie regulacji jest bardzo niewiele”.

Skąpe wyniki na poziomie federalnym

Federalny dorobek, przeciwko któremu występuje Menin, jest długi i w większości pusty. Pierwszy federalny projekt ustawy dotyczącej AI, FUTURE of AI Act, został przedstawiony w 2017 roku i nie doszedł do skutku. W 2023 roku dyrektor generalny OpenAI Sam Altman zaował do Senatu o regulację swojej branży; ówczesny lider większości Chuck Schumer odpowiedział dziewięcioma zamkniętymi forum, które zaowocowały mapą drogową, ale żadnym projektem ustawy. Do 2025 roku Altman mówił senatorom, że wymaganie zgody rządu na wypuszczenie AI byłoby katastrofą.

Gdy Waszyngton w końcu zaczął działać, ruszył zatrzymywać innych. Senat uchylił proponowany przez senatora Teda Cruza 10-letni zakaz stanowych przepisów dotyczących AI głosowaniem 99-1 w lipcu 2025 roku, a prezydent Trump utworzył następnie zespół zadaniowy Departamentu Sprawiedliwości, mający pozywać stany w związku z ich przepisami dotyczącymi AI. Pierwszy cel, Kolorado, wyciął własną ustawę pięć tygodni po wniesieniu pozwu.

Nawet po tym, jak badacz Anthropic Jacob Coxon złożył rezygnację w tym miesiącu z ostrzeżeniem, że firmy AI hazardzują ludzkimi życiami, odpowiedź federalna ograniczyła się do listów i dochodzeń. Najnowszy wysiłek pochodzi od dwupartyjnego projektu ustawy o bezpieczeństwie autorstwa Cruza, senatorki Amy Klobuchar i lidera większości Johna Thune’a, który prawdopodobnie uchyliłby większość przepisów stanowych, w tym obecną ustawę RAISE Act stanu Nowy Jork. Ostateczne rozstrzygnięcie tej walki o pierwszeństwo regulacji ukształtuje, jaka część pakietu rady będzie mogła wejść w życie.

W lipcowym wpisie OpenAI argumentowało, że stany mogą wypełnić lukę, uchwalając wzajemnie lustrzane przepisy zamiast federalnych. Jednak to w Nowym Jorku, a nie w większości stanów tworzących obecnie przepisy dotyczące AI, firmy te zapuściły korzenie. Google zatrudnia w mieście ponad 14 000 pracowników, a Meta wynajmuje 1,2 mln stóp kwadratowych przy 50 Hudson Yards. Anthropic wynajął w tym latem cały 16-piętrowy budynek przy 330 Hudson Street i do końca roku oczekuje ponad 1000 pracowników w mieście, podczas gdy OpenAI zajęło w 2024 roku 90 000 stóp kwadratowych w Puck Building.

„Te firmy mają biura w Nowym Jorku. Produkt jest sprzedawany w Nowym Jorku i uważamy, że mieści się to w naszej domenie regulacyjnej” – powiedziała Menin.

Co przewidują projekty ustaw

Najszerszy z projektów zakazywałby przedsiębiorstwom sprzedawania lub wdrażania systemu AI w mieście, chyba że niezależny walidator sprawdził go pod kątem jakości danych, stronniczości, prywatności i bezpieczeństwa według standardów ustalonych przez miejski Urząd Cybernetyki (Office of Cyber Command). Każdy system musiałby również mieć wyłącznik awaryjny – ludzkie obejście zdolne go wyłączyć. Ponieważ wymóg ten dotyczy przedsiębiorstwa sprzedającego lub wdrażającego AI w mieście, obejmowałby znacznie więcej niż tylko największe laboratoria.

„To nie jest branża, która powinna się sama regulować” – powiedziała Menin. „Obecnie problem polega na tym, że to w zasadzie jest standardem”. Grzywna 25 000 dolarów byłaby nakładana za każdy przypadek, co według Menin oznacza, że „jeśli jest rój agentów, kara byłaby nakładana na każdego agenta”.

Osobny projekt dawałby sygnalistom część grzywien odzyskanych od firm AI łamiących prawo, co rada uważa za pierwszy tego rodzaju przepis w kraju. Towarzyszący środek chroniłby miejskich pracowników i wykonawców zgłaszających zagrożenia dla bezpieczeństwa publicznego związane z AI.

Trzeci projekt pozwalałby ludziom pozywać firmy AI za szkody wyrządzone przez osoby trzecie, które obeszły zabezpieczenia, pod warunkiem że szkoda była przewidywalna, a firma nie zapewniała rozsądnych zabezpieczeń. Sądy nie rozstrzygnęły jeszcze, czy Sekcja 230, federalna ustawa chroniąca platformy przed odpowiedzialnością za treści użytkowników, obejmuje wyniki generowane przez AI, więc projekt może również testować prawo federalne.

Inne projekty wymagałyby od miejskich wykonawców zgłaszania incydentów bezpieczeństwa AI w ciągu 24 godzin, zakazywałyby fałszywych lub wprowadzających w błąd twierdzeń o bezpieczeństwie, ustalałyby zasady prywatności dla chatbotów na podstawie People-First Chatbot Bill Electronic Privacy Information Center oraz nakazywałyby miastu planowanie na wypadek ataków na jego systemy przeprowadzanych za pomocą AI. Rada zapowiedziała, że kolejne projekty są w drodze, w tym zakaz zwodniczych deepfake’ów oraz badanie wpływu narzędzi algorytmicznych na obowiązki zawodowe. Przesłuchanie 5 października będzie pierwszym publicznym punktem kontrolnym dla zakresu tego wysiłku.

„Nasze projekty obejmują wszelkiego rodzaju różne sposoby radzenia sobie z kwestią bezpieczeństwa” – powiedziała Menin. „Chcemy pozostać centrum innowacji. Nie wierzę w to, że regulacja miałaby to jakkolwiek hamować”.

Ta historia pierwotnie pojawiła się na Fortune.