Le Congrès a passé près d'une décennie à organiser des auditions sur l'intelligence artificielle sans presque rien adopter pour la rendre plus sûre. Désormais, le Conseil municipal de New York veut savoir si une ville peut accomplir ce que Washington n'a pas réussi à faire.

Vendredi, la présidente du Conseil municipal, Julie Menin, a dévoilé un ensemble de projets de loi qui exigeraient que les systèmes d'IA vendus dans la ville passent une validation externe et disposent d'un interrupteur d'arrêt, rémunéreraient les lanceurs d'alerte signalant des violations, et permettraient aux New-Yorkais de poursuivre en justice les entreprises d'IA lorsque des outils contournés leur causent un préjudice. La législation sera examinée le 5 octobre lors d'une audition du Committee of the Whole réunissant les 51 membres du Conseil. Contrairement à l'initiative fédérale au point mort, le Conseil revendique une compétence directe : les entreprises à l'origine de ces systèmes vendent leurs produits à New York et y maintiennent certains de leurs plus grands bureaux.

« Nous ne cherchons évidemment en aucune façon à étouffer l'innovation. Nous voulons garantir que New York reste la capitale mondiale de l'IA, mais cela s'accompagne de responsabilités », a déclaré Menin à Fortune. « Je ne crois pas que ces deux idées soient incompatibles. En fait, je pense qu'elles vont de pair. »

« Vous voulez être la capitale de l'innovation, et vous voulez être la capitale d'une régulation intelligente et raisonnable, avec des garde-fous autour d'elle, car vous voulez que les gens aient confiance dans le produit lui-même », a-t-elle ajouté.

Une audition très méatisée

Le Conseil a invité Dario Amodei, Sam Altman, Sundar Pichai, Elon Musk et Mark Zuckerberg — les PDG d'Anthropic, OpenAI, Google, SpaceXAI et Meta respectivement — à témoigner. L'audition du 5 octobre sera un Committee of the Whole, un format que le Conseil municipal n'a pas convoqué depuis 2022.

Des sources au courant de l'audition ont indiqué à Fortune qu'aucun des cinq dirigeants sollicités n'était susceptible de comparaître, même si le Conseil municipal se réserve le droit de les citer à comparaître. Les entreprises n'ont pas immédiatement répondu aux demandes de commentaire de Fortune. Que l'un des cinq soit présent — ou que le Conseil cherche à contraindre leur témoignage — constituera le premier test visible du niveau de résistance rencontré par ce paquet législatif.

Cela n'exclut toutefois pas que d'autres dirigeants représentent ces entreprises, et Menin a déclaré que l'objectif était que le public gagne en confiance dans ces institutions. « Ce type de régulation renforce en réalité la foi des gens dans ces technologies d'IA », a-t-elle déclaré.

Les villes en première ligne

Pour Menin, avocate en régulation devenue politique, cette législation n'est pas destinée à rester dans les limites de la ville. « En tant qu'avocate en régulation, et en tant que personne ayant été commissaire du Department of Consumer and Worker Protection, je suis fermement convaincue que New York a absolument un rôle de leader à jouer », a-t-elle déclaré.

Elle a décrit ces projets de loi comme une étude de cas tirée d'un cours qu'elle a enseigné à l'université Columbia, « When Cities Take the Lead », qui examinait ce que les villes devraient faire « lorsque le gouvernement fédéral dérégule ou ne parvient pas à agir ».

« C'est peut-être l'un des plus grands exemples de cette situation, où l'on a un produit, l'IA, qui fait l'objet de très peu de régulation », a déclaré Menin. « À New York, nous réglementons toutes sortes de produits et de services, des salons de coiffure aux instituts de manucure, et pourtant, avec l'IA, nous sommes face à une situation où il y a très peu de régulation. »

Un bilan fédéral maigre

Le bilan fédéral auquel Menin s'attaque est long et essentiellement vide. Le premier projet de loi fédéral sur l'IA, le FUTURE of AI Act, a été présenté en 2017 et n'a pas abouti. En 2023, le PDG d'OpenAI, Sam Altman, a demandé au Sénat de réglementer son secteur ; le chef de la majorité de l'époque, Chuck Schumer, a répondu par neuf forums à huis clos qui ont produit une feuille de route, mais aucun projet de loi. D'ici 2025, Altman disait aux sénateurs qu'exiger une approbation gouvernementale pour la publication de l'IA serait une catastrophe.

Lorsque Washington a finalement agi, ce fut pour empêcher les autres d'agir. Le Sénat a supprimé, par un vote de 99 contre 1 en juillet 2025, la proposition du sénateur Ted Cruz d'interdire pendant dix ans les lois des États sur l'IA, et le président Trump a ensuite créé une task force au sein du ministère de la Justice pour poursuivre les États justice au sujet de leurs lois sur l'IA. Sa première cible, le Colorado, a vidé de sa substance sa propre loi cinq semaines après le dépôt de la plainte.

Même après la démission ce mois-ci du chercheur d'Anthropic, Jacob Coxon, qui a averti que les entreprises d'IA jouaient avec des vies humaines, la réponse fédérale s'est limitée à des lettres et à des enquêtes. L'effort le plus récent émane d'un projet de loi bipartite sur la sécurité porté par Cruz, la sénatrice Amy Klobuchar et le chef de la majorité John Thune, qui préempterait probablement la plupart des lois des États, y compris l'actuel RAISE Act de New York. La résolution finale de ce combat sur la préemption déterminera la part du paquet du Conseil qui pourra réellement entrer en vigueur.

Dans une publication de juillet, OpenAI a fait valoir que les États pourraient combler le vide législatif en adoptant des lois se reflétant mutuellement, en lieu et place d'une loi fédérale. Pourtant, c'est bien à New York, plutôt que dans la plupart des États qui rédigent actuellement des lois sur l'IA, que ces entreprises se sont implantées. Google compte plus de 14 000 employés dans la ville, et Meta loue 1,2 million de pieds carrés au 50 Hudson Yards. Anthropic a loué cet été un immeuble entier de 16 étages au 330 Hudson Street et prévoit d'avoir plus de 1 000 employés dans la ville d'ici la fin de l'année, tandis qu'OpenAI a pris 90 000 pieds carrés au Puck Building en 2024.

« Ces entreprises ont des bureaux à New York. Le produit est vendu à New York, et nous pensons que cela relève de notre compétence de réglementation », a déclaré Menin.

Ce que prévoient les projets de loi

Le plus large des projets de loi interdirait à toute entreprise de vendre ou de déployer un système d'IA dans la ville sans qu'un validateur externe n'ait vérifié sa qualité des données, ses biais, sa confidentialité et sa sécurité selon des normes établies par l'Office of Cyber Command de la ville. Chaque système devrait également être doté d'un interrupteur d'arrêt — une intervention humaine capable de l'éteindre. Cette exigence s'appliquant à toute entreprise vendant ou déployant de l'IA dans la ville, sa portée irait bien au-delà des grands laboratoires.

« Ce n'est pas un secteur qui devrait s'autoréguler », a déclaré Menin. « Pour l'instant, le problème, c'est que c'est essentiellement la norme en vigueur. » Une amende de 25 000 dollars s'appliquerait à chaque infraction, ce qui signifie, selon Menin, que « s'il y a un essaim d'agents, la sanction s'appliquerait par agent ».

Un projet de loi distinct donnerait aux lanceurs d'alerte une part des amendes récupérées auprès des entreprises d'IA enfreignant la loi, ce que le présente comme une première aux États-Unis. Une mesure complémentaire protégerait les employés et sous-traitants municipaux qui signalent des menaces liées à l'IA pour la sécurité publique.

Un troisième projet de loi permettrait aux gens de poursuivre les entreprises d'IA pour les dommages causés par des tiers contournant les contrôles de sécurité, à condition que le préjudice était prévisible et que l'entreprise n'avait pas pris de mesures de protection raisonnables. Les tribunaux ne se sont pas encore prononcés sur la question de savoir si l'article 230, la loi fédérale qui protège les plateformes de toute responsabilité quant au contenu de leurs utilisateurs, couvre les contenus générés par l'IA ; le projet de loi pourrait donc également mettre à l'épreuve le droit fédéral.

D'autres projets de loi obligeraient les sous-traitants municipaux à signaler les incidents de sécurité liés à l'IA dans les 24 heures, interdiraient les allégations de sécurité fausses ou trompeuses, établiraient des règles de confidentialité pour les chatbots fondées sur le People-First Chatbot Bill de l'Electronic Privacy Information Center, et exigeraient que la ville planifie face aux attaques pilotées par l'IA contre ses systèmes. Le Conseil a indiqué que d'autres projets de loi sont à venir, notamment une interdiction des deepfakes trompeurs et une étude sur la manière dont les outils algorithmiques modifient les tâches professionnelles. L'audition du 5 octobre constituera le premier jalon public de l'ampleur de cet effort.

« Nos projets de loi couvrent toutes sortes de moyens différents de traiter la question de la sécurité », a déclaré Menin. « Nous voulons rester un pôle d'innovation. L'idée que la régulation pourrait de quelque manière que ce soit entraver cela, je n'y crois pas. »

Cette histoire a été publiée à l'origine sur Fortune.