Jacob Coxon hat bei Anthropic daran mitgearbeitet, fortschrittliche KI zu entwickeln. Jetzt fährt er zum Rathaus, um die New Yorker Abgeordneten davor zu warnen.

Der ehemalige Anthropic-Forscher wird am 5. Oktober 2026 vor dem New Yorker Stadtrat zu KI-Sicherheitsrisiken aussagen. Vertreter von Anthropic, OpenAI, Google und Meta werden bei derselben Sitzung erwartet, womit ein kürzlich ausgeschiedener Branchen-Insider mit den größten Entwicklern des Felds an einem Tisch sitzt.

Wie die Anhörung aussieht

Ratspräsidentin Julie Menin hat die Anhörung einberufen; sie wird als Committee of the Whole durchgeführt. Dieses Format bezieht alle 51 Ratsmitglieder ein, statt die Angelegenheit an einen einzelnen Ausschuss zu delegieren.

Der Rat hat Briefe an die Vorstandsvorsitzenden von vier großen KI-Unternehmen gesendet und sie zur Teilnahme eingeladen: Dario Amodei von Anthropic, Sam Altman von OpenAI, Sundar Pichai von Google und Mark Zuckerberg von Meta.

Nicht jeder Empfänger reagierte so, wie der Rat gehofft hatte. SpaceXAI wurde um den 30. September 2026 eine Vorladung zugestellt, nachdem rechtliche Schritte gegen das Unternehmen wegen Nichtbefolgung eingeleitet worden waren. Laut den Recherchenergebnissen markiert die Anhörung das erste Mal, dass ein US-Gesetzgebungsorgan eine eidliche Aussage zur KI-Sicherheit erzwingt, und die Nichtbefolgung kann ernsthafte rechtliche Konsequenzen nach sich ziehen.

Die Gesetzentwürfe auf dem Tisch

Die Abgeordneten planen, in der Sitzung mehrere Gesetztesentwürfe zu erörtern, von denen drei herausragen.

Der erste würde eine Validierung der in der Stadt eingesetzten KI-Systeme durch Dritte vorschreiben. Der zweite würde sogenannte branchenführende Whistleblower-Anreize schaffen, die Insider belohnen sollen, die gefährliche Praktiken in KI-Laboren aufdecken. Der dritte würde Einzelpersonen das Recht geben, auf Schadensersatz für durch KI-Systeme verursachte Schäden zu klagen.

Insgesamt würden diese Vorschläge festlegen, wie KI-Systeme für die kommunale Nutzung validiert werden, wie Laborbeschäftigte Alarm schlagen können und wie Einwohner Entschädigung verlangen können, wenn Systeme Schaden anrichten.

Die Whistleblower-Maßnahme rückt auch Coxons Auftritt in ein schärferes Licht: Seine Warnungen kamen von außerhalb des Labors, nach seinem Rücktritt, während der Entwurf Insider geschrieben ist, die noch in KI-Laboren arbeiten.

Warum Coxon hier eine Rolle spielt

Coxon trat um den 8.-9. September 2026 von Anthropic zurück. Seine öffentliche Abschiedserklärung wurde mehr als 173 Millionen Mal aufgerufen. Darin bezeichnete er KI-Unternehmen als Akteure, die „mit unseren Leben spielen“, und warnte, die Technologie könne bis Ende des Jahrzehnts alle Menschen töten.

Laut den Recherchenergebnissen hat sein Rücktritt den Vorstoß für die Anhörung erheblich beflügelt.

Er ist nicht die einzige Anthropic-Stimme, die Alarm schlägt. Evan Hubinger von Anthropic hat ähnliche Bedenken geäußert und die Wahrscheinlichkeit, dass KI innerhalb eines Jahrzehnts für die Menschheit tödlich sein könnte, auf mehr als 10 % geschätzt. Die Recherchenergebnisse beschreiben diese Warnungen als Ausdruck eines wachsenden Konsenses unter einigen Anthropic-Forschern über die existenziellen Gefahren fortschrittlicher KI. Zu den genannten Befürchtungen gehören Risiken, die mit Biowaffen vergleichbar sind, sowie ein vollständiger Verlust der menschlichen Kontrolle.

Coxons Darstellung ist nicht unumstritten. Skeptiker haben seine Verbindung zu einer PR-Firma mit Bindungen an KI-Sicherheits-Advocacy kritisiert – Vorwürfe, die er zurückgewiesen hat.

Wenn die Sitzung am 5. Oktober zusammentritt, stehen zwei Fragen offen: ob SpaceXAI der Vorladung folgend erscheint und wie die drei Gesetzentwürfe nach Abschluss der eidlichen Aussagen vorankommen.