Het Congres hield bijna tien jaar lang hoorzittingen over kunstmatige intelligentie terwijl er vrijwel niets werd aangenomen om de technologie veiliger te maken. Nu wil de gemeenteraad van New York uitvinden of een stad kan bereiken wat Washington niet voor elkaar kreeg.

Op vrijdag presenteerde voorzitter Julie Menin van de gemeenteraad een pakket wetsvoorstellen dat vereist dat in de stad verkochte AI-systemen een externe validatie doorstaan en voorzien zijn van een kill switch, klokkenluiders die overtredingen melden beloont, en New Yorkers in staat stelt AI-bedrijven aan te klagen wanneer gekraakte tools hen schade toebrengen. De wetgeving wordt op 5 oktober behandeld tijdens een hoorzitting van de voltallige raad met alle 51 leden. In tegenstelling tot de vastgelopen federale inspanning claimt de raad directe jurisdictie: de bedrijven achter deze systemen verkopen hun producten in New York en hebben er enkele van hun grootste kantoren.

"We willen innovatie op geen enkele manier afremmen. We willen ervoor zorgen dat New York de AI-hoofdstad van de wereld blijft, maar daar hoort verantwoordelijkheid bij," zei Menin tegen Fortune. "Ik geloof helemaal niet dat deze twee ideeën elkaar uitsluiten. Sterker nog, ik denk dat ze hand in hand gaan."

"Je wilt de hoofdstad van innovatie zijn, en je wilt de hoofdstad zijn van slimme, verstandige regulering en waarborgen daaromheen, omdat je wilt dat mensen vertrouwen hebben in het product zelf," aldus Menin.

Een hoorzitting met hoge inzet

De raad heeft Dario Amodei, Sam Altman, Sundar Pichai, Elon Musk en Mark Zuckerberg—de CEO's vanievelijk Anthropic, OpenAI, Google, SpaceXAI en Meta—uitgenodigd om te getuigen. De hoorzitting van 5 oktober zal een zitting van de voltallige raad zijn, een vorm die de gemeenteraad sinds 2022 niet meer heeft gehouden.

Bronnen met kennis van de hoorzitting vertelden Fortune dat naar verwachting geen van de vijf opgeroepen topmannen zal verschijnen, al behoudt de gemeenteraad zich het recht voor om hen te dagvaarden. De bedrijven reageerden niet direct op de verzoeken van Fortune om commentaar. Of iemand van de vijf zal verschijnen—of dat de raad zal proberen hun getuigenis af te dwingen—zal de eerste zichtbare test zijn van hoeveel weerstand het pakket ondervindt.

Dat sluit niet uit dat andere leiders namens de bedrijven zullen verschijnen, en volgens Menin is het doel dat het publiek vertrouwen krijgt in deze instellingen. "Dit soort regulering verbetert feitelijk het vertrouwen van mensen in deze AI-technologieën," aldus Menin.

Steden nemen het voortouw

Voor Menin, een voormalig advocaat regelgeving die politicus werd, is de wetgeving niet bedoeld om binnen de stadsgrenzen te blijven. "Als advocaat regelgeving, en als iemand die commissaris is geweest van het Department of Consumer and Worker Protection, ben ik er sterk van overtuigd dat er absoluut een leidende rol voor New York City is weggelegd," aldus Menin.

Ze omschreef de wetsvoorstellen als een casestudy uit een vak dat ze doceerde aan de Columbia University, "When Cities Take the Lead", waarin werd onderzocht wat steden zouden moeten doen "als de federale overheid dereguleert of niet handelt."

"Dit is misschien wel een van de duidelijkste voorbeelden daarvan, waarbij je een AI-product hebt dat nauwelijks gereguleerd wordt," zei Menin. "In New York City reguleren we allerlei producten en diensten, van kappersalons tot nagelstudio's, en toch hebben we hier een situatie met AI waar vrijwel geen regulering is."

Een schaarse federale staat van dienst

De federale staat van dienst waar Menin zich tegen verzet, is lang en grotendeels leeg. Het eerste federale AI-wetsvoorstel, de FUTURE of AI Act, werd in 2017 ingebracht en liep op niets uit. In 2023 vroeg OpenAI-CEO Sam Altman de Senaat om zijn sector te reguleren; toenmalig fractieleider Chuck Schumer reageerde met negen besloten forums een routekaart opleverden maar geen wet. In 2025 vertelde Altman de senatoren dat het verplichten van overheidsregelgeving voor het uitbrengen van AI een ramp zou zijn.

Toen Washington eindelijk handelde, was het om anderen te verhinderen te handelen. De Senaat schrapte de voorgestelde tienjarige ban van senator Ted Cruz op AI-wetten van deelstaten met een stemming van 99 tegen 1 in juli 2025, waarna president Trump een taskforce bij het ministerie van Justitie oprichtte om staten aan te klagen vanwege hun AI-wetten. Het eerste doelwit, Colorado, slokte zijn eigen wet op vijf weken na het indienen van de zaak.

Zelfs nadat Anthropic-onderzoeker Jacob Coxon deze maand ontslag nam met de waarschuwing dat AI-bedrijven gokten met mensenlevens, bestond de federale reactie uit brieven en onderzoek. De meest recente poging komt van een tweeledig wetsvoorstel over veiligheid van Cruz, senator Amy Klobuchar en fractieleider John Thune, dat naar verwachting de meeste staatswetten zal overschrijven, waaronder de huidige RAISE Act van New York. Hoe die pre-emptiestrijd uiteindelijk wordt beslecht, zal bepalen hoeveel van het pakket van de raad van kracht kan worden.

In een bericht in juli betoogde OpenAI dat staten de kloof konden dichten door wetten aan te nemen die op elkaar lijken, in plaats van een federale wet. Toch is het in New York City, en niet in de meeste staten die nu AI-wetten schrijven, dat deze bedrijven wortel hebben geslagen. Google heeft meer dan 14.000 medewerkers in de stad, en Meta huurt 1,2 miljoen vierkante voet in 50 Hudson Yards. Anthropic huurde deze zomer een geheel gebouw van 16 verdiepingen aan 330 Hudson Street en verwacht eind dit jaar meer dan 1.000 medewerkers in de stad te hebben, terwijl OpenAI in 2024 90.000 vierkante voet nam in het Puck Building.

"Deze bedrijven hebben kantoren in New York. Het product wordt in New York verkocht, en wij zijn van mening dat dit binnen ons domein valt om te kunnen reguleren," aldus Menin.

Wat de wetsvoorstellen inhouden

Het breedste wetsvoorstel zou elk bedrijf verbieden een AI-systeem in de stad te verkopen of in te zetten, tenzij een externe validator het heeft gecontroleerd op datakwaliteit, bias, privacy en beveiliging volgens normen die zijn vastgesteld door het Office of Cyber Command van de stad. Elk systeem zou ook kill switch nodig hebben—een menselijke override die het systeem kan uitschakelen. Omdat die vereiste geldt voor elk bedrijf dat AI in de stad verkoopt of inzet, zou het ver reiken voorbij de grote laboratoria.

"Dit is geen sector die zichzelf zou moeten reguleren," aldus Menin. "Het probleem is op dit moment dat dat eigenlijk de standaard is." Een boete van $25.000 geldt per geval, wat volgens Menin betekent dat "als er een zwerm agenten is, de boete per agent geldt."

Een afzonderlijk wetsvoorstel zou klokkenluiders een deel geven van de boetes die zijn geïnd van AI-bedrijven die de wet overtreden, wat volgens de raad de eerste regeling van dit soort in de Verenigde Staten zou zijn. Een aanvullende maatregel zou gemeentelijke medewerkers en aannemers beschermen die AI-dreigingen voor de openbare veiligheid melden.

Een derde wetsvoorstel zou mensen in staat stellen AI-bedrijven aan te klagen voor schade veroorzaakt door derden die beveiligingsmaatregelen omzeilen, mits de schade voorzienbaar was en het bedrijf geen redelijke waarborgen had getroffen. Rechtbanken hebben zich niet uitgesproken over de vraag of Section 230, de federale wet die platforms beschermt tegen aansprakelijkheid voor content van gebruikers, van toepassing is op AI-gegenereerde output, waardoor het wetsvoorstel mogelijk ook het federale recht op de proef stelt.

Andere wetsvoorstellen zouden gemeentelijke aannemers verplichten AI-veiligheidsincidenten binnen 24 uur te melden, valse of misleidende veiligheidsclaims verbieden, privacyregels voor chatbots vaststellen op basis van het People-First Chatbot Bill van het Electronic Privacy Information Center, en de stad verplichten zich voor te bereiden op AI-gedreven aanvallen op haar systemen. De raad heeft gezegd dat er meer wetsvoorstellen aankomen, waaronder een verbod op misleidende deepfakes en een studie naar hoe algoritmische tools taakgebieden veranderen. De hoorzitting van 5 oktober zal het eerste openbare ijkpunt zijn voor de reikwijdte van die inspanning.

"Onze wetsvoorstellen behandelen allerlei verschillende manieren waarop we het veiligheidsprobleem kunnen aanpakken," aldus Menin. "We willen doorgaan als een hub van innovatie. Het idee dat regulering dat op enigerlei wijze belemmert, daar geloof ik niet in."

Dit verhaal verscheen oorspronkelijk op Fortune.