Nowy Jork zamierza przekształcić regulację AI w system nagród. Przewodnicząca Rady Miejskiej Julie Menin przedstawiła 25 września pakiet ustaw nadzorczych dotyczących sztucznej inteligencji, który obejmuje przepis przewidujący wypłaty dla sygnalistów z procentu grzywien zebranych od firm AI uznanych za naruszające przepisy.

Co zawiera pakiet

Choć najwięcej uwagi przyciąga mechanizm zachęt dla sygnalistów, wpisuje się on w znacznie szerszy impuls ustawodawczy. Zgodnie z projektami niespełniające wymogów systemy AI podlegałyby obowiązkowym ludzkim „kill switchom”, co oznacza, że rzeczywista osoba musi mieć możliwość wyłączenia systemu, gdy algorytm wymknie się spod kontroli. Wymogiem stałyby się również audyty bezpieczeństwa przeprowadzane przez strony trzecie, a grzywny za naruszenia mogłyby sięgać 25 000 dolarów za każde przewinienie. Ponieważ wypłata dla sygnalisty stanowiłaby udział w faktycznie zebranych grzywnach, ten limit kar efektywnie wyznacza górną granicę potencjalnych nagród.

Inny projekt w pakiecie rozszerzyłby prawa osób poszkodowanych przez AI, otwierając możliwość bezpośredniego pozywania twórców.

Cały pakiet trafi pod obrady podczas wysłuchania Rady Miejskiej 5 października, w którym ma wziąć udział wszystkich 51 radnych — pełny skład izby. Zaproszono też dyrektorów generalnych czołowych firm AI.

Kanał dla sygnalistów już działa

Krok Rady Miejskiej nie wypadł znikąd. Osiem dni wcześniej, 17 września, prokurator generalna stanu Nowy Jork Letitia James uruchomiła dedykowany portal dla sygnalistów pracujących w branży AI. Portal daje pracownikom firm AI oficjalny kanał zgłaszania obaw dotyczących niebezpiecznych lub szkodliwych praktyk. Proponowana nagroda dałaby tym samym pracownikom bezpośredni interes finansowy w egzekwowaniu przepisów, ponieważ wypłaty pochodzą z grzywien zebranych od firm uznanych za winne naruszeń.

Dlaczego Nowy Jork i dlaczego teraz

Nowy Jork ma długą historię testowania zdecydowanych regulacji lokalnych, zanim powstaną ramy federalne. Jego ustawa z 2023 roku wymagająca audytów stronniczości narzędzi rekrutacyjnych opartych na AI, Local Law 144, była jednym z pierwszych w kraju przepisów dotyczących konkretnie AI.

Nowy pakiet idzie znacznie dalej. Tam gdzie ustawa o rekrutacji obejmowała jeden przypadek użycia, proponowane ustawodawstwo ma stworzyć ogólną ramę nadzorczą dla systemów AI działających w granicach miasta. Połączenie kill switchy, wymogów audytowych, prywatnych praw dochodzenia roszczeń i nagród dla sygnalistów wskazuje, że ustawodawcy starają się zbudować wszechstronną architekturę regulacyjną.

Co to oznacza dla branży

Dla firm AI działających w Nowym Jorku ciężar zgodności regulacyjnej właśnie urósł. Audyty stron trzecich kosztują, a wymogi dotyczące kill switchy mogą wymusić zmiany architektoniczne wdrożonych systemów.

Przepis o prywatnym prawie dochodzenia roszczeń może być najbardziej doniosłym elementem pod względem odpowiedzialności korporacyjnej. Obecnie, gdy system AI odmawia komuś mieszkania, ubezpieczenia lub zatrudnienia na podstawie błędnej logiki, os poszkodowana często ma ograniczone możliwości prawne. Pozwolenie na bezpośrednie pozwy przeciwko twórcom zmienia ekonomikę wdrażania AI w obszarach o wysokiej stawce.

Następny punkt kontrolny przypada 5 października, gdy projekty trafią przed pełny skład Rady — z zaproszonymi do udziału dyrektorami firm, których dotyczyć będą regulacje.