New York City werkt aan regels die AI-toezicht omvormen tot een beloningssysteem. Julie Menin, voorzitter van de gemeenteraad, diende op 25 september een pakket wetsvoorstellen voor toezicht op kunstmatige intelligentie in. Daarin staat een bepaling die klokkenluiders een percentage wil betalen van de boetes die worden geïnd bij AI-bedrijven die de regels overtreden.

Wat het pakket bevat

Hoewel de stimulans voor klokkenluiders de meeste aandacht trekt, maakt die deel uit van een veel bredere wetgevende aanpak. Volgens de voorstellen zouden niet-conforme AI-systemen verplichte menselijke “noodschakelaars” moeten hebben. Dat betekent dat een echt persoon een systeem moet kunnen uitschakelen wanneer een algoritme ontspoort. Ook onafhankelijke veiligheidsaudits zouden verplicht worden en boetes voor overtredingen kunnen oplopen tot $25.000 per overtreding. Omdat elke beloning voor een klokkenluider een deel zou zijn van de daadwerkelijk geïnde boetes, vormt dit maximumbedrag in feite de bovengrens voor de mogelijke beloningen.

Een ander wetsvoorstel uit het pakket zou de juridische rechten uitbreiden van mensen die door AI zijn benadeeld, waardoor zij ontwikkelaars rechtstreeks zouden kunnen aanklagen.

Het volledige pakket wordt besproken tijdens een hoorzitting van de gemeenteraad op 5 oktober. Naar verwachting nemen alle 51 raadsleden — de volledige raad — deel aan de behandeling. Bestuurders van prominente AI-bedrijven zijn uitgenodigd om aanwezig te zijn.

Het klokkenluiderskanaal is al geopend

De stap van de gemeenteraad kwam niet uit het niets. Acht dagen eerder, op 17 september, lanceerde procureur-generaal van New York Letitia James een speciaal klokkenluidersportaal voor werknemers in de AI-sector. Via dat portaal kunnen werknemers van AI-bedrijven formeel melding maken van zorgen over onveilige of schadelijke praktijken. De voorgestelde beloning zou diezelfde werknemers een direct financieel belang geven bij handhaving, omdat de uitbetalingen afkomstig zouden zijn uit boetes die worden geïnd bij bedrijven die de regels hebben overtreden.

Waarom New York, en waarom nu

New York City heeft een lange geschiedenis van het uitproberen van strenge lokale regelgeving voordat federale kaders tot stand komen. De wet uit 2023 die audits op vooringenomenheid verplicht stelt voor AI-gestuurde wervingstools, Local Law 144, was een van de eerste specifieke AI-regels in de Verenigde Staten.

Het nieuwe pakket gaat aanzienlijk verder. Waar de wet op werving één specifieke toepassing viseerde, probeert de voorgestelde wetgeving een algemeen toezichtskader te creëren voor AI-systemen die binnen de stadsgrenzen worden gebruikt. De combinatie van noodschakelaars, auditverplichtingen, zelfstandige vorderingsrechten en beloningen voor klokkenluiders wijst erop dat wetgevers een uitgebreide regelgevingsstructuur proberen op te bouwen.

Wat dit betekent voor de sector

Voor AI-bedrijven die in New York actief zijn, zal de nalevingslast naar verwachting toenemen. Onafhankelijke audits kosten geld en vereisten voor noodschakelaars kunnen architecturale wijzigingen aan geïmplementeerde systemen noodzakelijk maken.

De bepaling over een zelfstandig vorderingsrecht kan het meest ingrijpende onderdeel zijn voor de aansprakelijkheid van bedrijven. Als een AI-systeem iemand momenteel op basis van gebrekkige logica huisvesting, een verzekering of werk ontzegt, heeft die persoon vaak beperkte juridische mogelijkheden. Door rechtstreekse rechtszaken tegen ontwikkelaars toe te staan, verandert de economische afweging rond de inzet van AI in domeinen met grote gevolgen.

Het volgende belangrijke moment komt op 5 oktober, wanneer de maatregelen aan de volledige gemeenteraad worden voorgelegd. Bestuurders van de bedrijven waarop de regels betrekking zouden hebben, zijn uitgenodigd om aanwezig te zijn.