New York City verwandelt die Regulierung von AI in ein Bounty-System. Die Sprecherin des Stadtrats, Julie Menin, brachte am 25. September ein Paket von Aufsichtsgesetzen für künstliche Intelligenz ein, das eine Bestimmung enthält, nach der Whistleblower einen Prozentsatz der Geldstrafen erhalten, die von AI-Unternehmen eingenommen werden, die gegen die Regeln verstoßen haben.

Was das Paket enthält

Während der Whistleblower-Anreiz die meiste Aufmerksamkeit auf sich zieht, ist er Teil einer deutlich breiteren gesetzgeberischen Initiative. Nach den Gesetzentwürfen wären nicht konforme AI-Systeme verpflichtenden menschlichen „Kill Switches“ unterworfen, das heißt, eine reale Person muss ein System abschalten können, wenn ein Algorithmus außer Kontrolle gerät. Sicherheitsaudits durch Dritte würden ebenfalls zur Pflicht, und Geldstrafen für Verstöße könnten bis zu 25.000 US-Dollar je Verstoß erreichen. Da jede Whistleblower-Auszahlung ein Anteil an den tatsächlich eingenommenen Geldstrafen wäre, setzt diese Strafobergrenze faktisch das obere Limit für mögliche Belohnungen.

Ein weiterer Gesetzentwurf im Paket würde die gesetzlichen Rechte von Einzelpersonen ausweiten, die durch AI geschadet haben, und damit den Weg öffnen, Entwickler direkt zu verklagen.

Das gesamte Paket soll am 5. Oktober in einer Anhörung des Stadtrats beraten werden, an der alle 51 Ratsmitglieder — das gesamte Gremium —nehmen sollen. Vorstandsvorsitzende prominenter AI-Firmen sind eingeladen.

Die Whistleblower-Pipeline ist bereits offen

Der Schritt des Stadtrats kam nicht aus dem Nichts. Acht Tage zuvor, am 17. September, hatte die New Yorker Generalstaatsanwältin Letitia James ein eigenes Whistleblower-Portal für AI-Beschäftigte gestartet. Dieses Portal gibt Mitarbeitern von AI-Unternehmen einen formellen Kanal, um Bedenken über unsichere oder schädliche Praktiken zu melden. Das vorgeschlagene Bounty-System würde denselben Beschäftigten ein direktes finanzielles Interesse an der Durchsetzung geben, da die Auszahlungen aus den von Verstößen betroffenen Unternehmen eingezogenen Geldstrafen stammen.

Warum New York und warum jetzt

New York City hat eine lange Geschichte, aggressive lokale Regulierung zu testen, bevor bundesstaatliche Rahmenbedingungen entstehen. Das Gesetz von 2023 zur verpflichtenden Bias-Prüfung von AI-gestützten Einstellungstools, Local Law 144, war eines der ersten AI-spezifischen Regelwerke des Landes.

Das neue Paket geht deutlich weiter. Während das Einstellungsgesetz auf einen einzigen Anwendungsfall abzielte, versucht diese Gesetzgebung, einen allgemeinen Aufsichtsrahmen für AI-Systeme zu schaffen, die innerhalb der Stadtgrenzen betrieben werden. Die Kombination aus Kill Switches, Audit-Anforderungen, individuellen Klagerechten und Whistleblower-Prämien deutet darauf hin, dass die Gesetzgeber eine umfassende Regulierungsarchitektur aufbauen wollen.

Was das für die Branche bedeutet

Für AI-Unternehmen mit Aktivitäten in New York wird der Compliance-Aufwand deutlich steigen. Audits durch Dritte kosten Geld, und Kill-Switch-Anforderungen können architektonische Änderungen an ausgerollten Systemen erzwingen.

Das individuelle Klagerecht könnte der folgenreichste Punkt für die Haftung von Unternehmen sein. Derzeit haben betroffene Personen oft nur begrenzte rechtliche Möglichkeiten, wenn ein AI-System jemandem aufgrund fehlerhafter Logik Wohnung, Versicherung oder Beschäftigung verweigert. Die Möglichkeit direkter Klagen gegen Entwickler verändert die Ökonomie des AI-Einsatzes in Hochrisikobereichen.

Der nächste Prüfstein kommt am 5. Oktober, wenn die Maßnahmen vor den gesamten Rat kommen — Vertreter der Unternehmen, die reguliert würden, sind zur Teilnahme eingeladen.