New York s'apprête à transformer la régulation de l'IA en un système de primes. La présidente du Conseil municipal, Julie Menin, a présenté le 25 septembre un ensemble de lois de supervision de l'intelligence artificielle incluant une disposition prévoyant de verser aux lanceurs d'alerte un pourcentage des amendes perçues auprès des entreprises d'IA reconnues en infraction.

Contenu du paquet législatif

Bien que l'incitation aux lanceurs d'alerte attire le plus l'attention, elle s'inscrit dans un effort législatif beaucoup plus large. Selon ces projets de loi, les systèmes d'IA non conformes seraient soumis à des « interrupteurs d'arrêt d'urgence » obligatoirement contrôlés par des humains, ce qui signifie qu'une personne réelle doit pouvoir arrêter un système lorsqu'un algorithme dysfonctionne. Des audits de sécurité par des tiers deviendraient également obligatoires, et les amendes pour infractions pourraient atteindre 25 000 dollars par infraction. Comme toute récompense versée à un lanceur d'alerte constituerait une part des amendes effectivement perçues, ce plafond de sanction fixe de facto la limite supérieure du montant potentiel des récompenses.

Un autre projet de loi de l'ensemble élargirait les droits légaux des personnes lésées par l'IA, ouvrant la voie à des poursuites directes contre les développeurs.

L'ensemble du paquet doit être débattu lors d'une audience du Conseil municipal le 5 octobre, à laquelle les 51 membres du Conseil — l'intégralité de l'assemblée — sont attendus pour participer. Les dirigeants de grandes entreprises d'IA ont été invités à assister aux débats.

Le canal des lanceurs d'alerte est déjà ouvert

L'initiative du Conseil municipal n'est pas sortie de nulle part. Huit jours plus tôt, le 17 septembre, la procureure générale de l'État de New York, Letitia James, avait lancé un portail dédié aux lanceurs d'alerte pour les travailleurs de l'IA. Ce portail offre aux employés des entreprises d'IA un canal formel pour signaler les pratiques dangereuses ou nuisibles. La prime proposée donnerait à ces mêmes employés un intérêt financier direct dans l'application de la loi, les paiements étant issus des amendes perçues auprès des entreprises reconnues en infraction.

Pourquoi New York, et pourquoi maintenant

New York a une longue histoire d'expimentation de régulations locales agressives avant la mise en place de cadres fédéraux. Sa loi de 2023 exigeant des audits de biais pour les outils de recrutement basés sur l'IA, la Local Law 144, a été l'une des premières régulations spécifiques à l'IA du pays.

Le nouveau paquet va considérablement plus loin. Là où la loi sur le recrutement visait un cas d'usage unique, la législation proposée tente de créer un cadre général de supervision pour les systèmes d'IA opérant dans les limites de la ville. La combinaison d'interrupteurs d'arrêt d'urgence, d'exigences d'audits, de droits d'action directe et de primes pour lanceurs d'alerte suggère que les législateurs cherchent à bâtir une architecture réglementaire globale.

Ce que cela signifie pour l'industrie

Pour les entreprises d'IA ayant des activités à New York, la charge de conformité va s'alourdir. Les audits par des tiers ont un coût, et les exigences d'interrupteurs d'arrêt d'urgence pourraient imposer des modifications architecturales aux systèmes déployés.

La disposition sur le droit d'action directe pourrait être l'élément le plus lourd de conséquences pour la responsabilité des entreprises. Actuellement, si un système d'IA refuse à une personne un logement, une assurance ou un emploi sur la base d'une logique défaillante, la personne concernée dispose souvent de recours légaux limités. Autoriser des poursuites directes contre les développeurs change l'équation économique du déploiement de l'IA dans des domaines à enjeux élevés.

La prochaine étape arrivera le 5 octobre, lorsque les mesures seront examinées par l'ensemble du Conseil — avec la présence invitée des dirigeants des entreprises qu'elles réglementeraient.