Jacob Coxon spędził czas w Anthropic, pomagając w budowie zaawansowanej AI. Teraz udaje się do ratusza, aby ostrzec przed nią nowojorskich ustawodawców.

Były badacz Anthropic jest zaplanowany do złożenia zeznań na przesłuchaniu Rady Miasta Nowy Jork dotyczącym ryzyk bezpieczeństwa AI 5 października 2026 r. Na tym samym posiedzeniu oczekiwani są przedstawiciele Anthropic, OpenAI, Google i Meta, co postawi niedawno odszedłszego insidera branży przy tym samym stole co największych twórców tej dziedziny.

Jak wygląda przesłuchanie

Przewodnicząca Rady Julie Menin zwołała przesłuchanie, które odbędzie się jako posiedzenie całej Rady (Committee of the Whole). Ten format obejmuje wszystkich 51 członków Rady, zamiast delegować sprawę do pojedynczego podkomitetu.

Rada wysłała listy do dyrektorów generalnych czterech największych firm AI, zapraszając ich do udziału: Dario Amodei z Anthropic, Sam Altman z OpenAI, Sundar Pichai z Google i Mark Zuckerberg z Meta.

Nie każdy adresat odpowiedział tak, jak Rada hoped. SpaceXAI otrzymało wezwanie sądowe 30 września 2026 r. lub około tej daty, po wszczęciu działań prawnych przeciwko firmie z powodu niestosowania się do wezwania. Zgodnie z ustaleniami badawczymi przesłuchanie jest pierwszym przypadkiem, gdy organ ustawodawczy w USA zmusił do złożenia przysięgłych zeznań na temat bezpieczeństwa AI, a niestosowanie się grozi poważnymi konsekwencjami prawnymi.

Projekty u na stole

Ustawodawcy planują wykorzystać posiedzenie do rozważenia kilku proponowanych środków ustawodawczych, z których trzy wyróżniają się na tle pozostałych.

Pierwszy wymagałby walidacji systemów AI używanych w mieście przez strony trzecie. Drugi stworzyłby to, co wnioski opisują jako wiodące w kraju zachęty dla sygnalistów, mające nagradzać insiderów, którzy zgłaszają niebezpieczne praktyki w laboratoriach AI. Trzeci dałby osobom fizycznym prawo do pozywania za szkody wyrządzone przez systemy AI.

Razem te wnioski ukształtowałyby sposób, w jaki systemy AI są walidowane do użytku komunalnego, jak pracownicy laboratoriów mogą zgłaszać alarmy i jak mieszkańcy mogą dochodzić odszkodowania, gdy systemy wyrządzą szkodę.

Wniosek dotyczący sygnalistów dodatkowo uwypukla wystąpienie Coxona: jego alarmy pochodziły spoza laboratorium, po rezygnacji, podczas gdy ustawa jest pisana dla insiderów wciąż pracujących w laboratoriach AI.

Dlaczego Coxon ma tu znaczenie

Coxon zrezygnował z Anthropic około 8-9 września 2026 r. Jego publiczne oświadczenie po odejściu obejrzało ponad 173 miliony razy. Nazwał w nim firmy AI "hazardem z naszymi życiami" i ostrzegł, że technologia może zabić wszystkich przed końcem dekady.

Zgodnie z ustaleniami badawczymi jego rezygnacja znacząco napędziła dążenie do przesłuchania.

Nie jest jedynym głosem z Anthropic podnoszącym alarm. Evan Hubinger z Anthropic wyraził obawy podobne do Coxona, szacując ponad 10% prawdopodobieństwo, że AI może być zabójcza dla ludzkości w ciągu dekady. Ustalenia badawcze opisują te ostrzeżenia jako odzwierciedlenie rosnącego konsensusu wśród niektórych badaczy Anthropic dotyczącego egzystencjalnych zagrożeń związanych z zaawansowaną AI. Wśród wymienionych obaw są ryzyka porównywalne z bronią biologiczną i całkowita utrata ludzkiej kontroli.

Narracja Coxona nie pozostała bez wyzwań. Sceptycy wyrazili obawy dotyczące jego związku z firmą PR powiązaną z advokacją bezpieczeństwa AI — zarzuty, które zdementował.

Kiedy posiedzenie zbierze się 5 października, otwarte będą dwa wątki: czy SpaceXAI stawi się w odpowiedzi na wezwanie sądowe i jak trzy projekty ustaw będą postępować po zakończeniu przysięgłych zeznań.