Jacob Coxon a passé son temps chez Anthropic à contribuer à la construction d'une IA avancée. Désormais, il se rend à l'hôtel de ville pour mettre en garde les élus new-yorkais à ce sujet.

L'ancien chercheur d'Anthropic doit témoigner lors d'une audience du conseil municipal de New York sur les risques de sécurité de l'IA le 5 octobre 2026. Des représentants d'Anthropic, OpenAI, Google et Meta sont attendus à la même session, plaçant un initié de l'industrie récemment parti à la même table que les plus grands développeurs du secteur.

Ce à quoi ressemblera l'audience

La présidente du conseil Julie Menin a convoqué l'audience, qui se tiendra sous forme de « Committee of the Whole ». Ce format implique l'ensemble des 51 membres du conseil plutôt que de déléguer la question à une seule sous-commission.

Le conseil a envoyé des lettres aux dirigeants de quatre grandes entreprises d'IA pour les inviter à assister à l'audience : Dario Amodei d'Anthropic, Sam Altman d'OpenAI, Sundar Pichai de Google et Mark Zuckerberg de Meta.

Tous les destinataires n'ont pas répondu comme le conseil l'espérait. SpaceXAI a été assignée à comparaître vers le 30 septembre 2026, après qu'une action en justice a été engagée contre l'entreprise pour non-conformité. Selon les conclusions de la recherche, l'audience marque la première fois qu'un organe législatif américain impose un témoignage sous serment sur la sécurité de l'IA, et la non-conformité expose à de graves conséquences juridiques.

Les projets de loi sur la table

Les législateurs prévoient d'utiliser la session pour examiner plusieurs propositions législatives, dont trois se détachent.

La première exigerait une validation par des tiers des systèmes d'IA utilisés dans la ville. La deuxième créerait ce que les propositions décrivent comme des incitations aux lanceurs d'alerte inédites au niveau national, conçues pour récompenser les initiés qui signalent des pratiques dangereuses au sein des laboratoires d'IA. La troisième donnerait aux individus le droit de poursuivre en justice pour obtenir réparation des dommages causés par des systèmes d'IA.

Prises ensemble, ces propositions façonneraient la manière dont les systèmes d'IA sont validés pour un usage municipal, la façon dont les employés des laboratoires peuvent donner l'alerte, et comment les habitants peuvent demander une indemnisation lorsque les systèmes causent des dommages.

La mesure sur les lanceurs d'alerte met également en perspective la participation de Coxon : ses alertes sont venues de l'extérieur du laboratoire, après sa démission, tandis que le projet de loi est rédigé pour les initiés travaillant encore au sein des laboratoires d'IA.

Pourquoi Coxon compte ici

Cox a démissionné d'Anthropic vers le 8-9 septembre 2026. Sa déclaration publique de départ a été vue plus de 173 millions de fois. Dans celle-ci, il a qualifié les entreprises d'IA de « joueurs qui misent nos vies » et a averti que la technologie pourrait tuer tout le monde d'ici la fin de la décennie.

Selon les conclusions de la recherche, sa démission a considérablement alimenté la pression en faveur de l'audience.

Il n'est pas la seule voix d'Anthropic à tirer la sonnette d'alarme. Evan Hubinger, d'Anthropic, a exprimé des préoccupations similaires à celles de Coxon, estimant à plus de 10 % la probabilité que l'IA puisse être mortelle pour l'humanité d'ici une décennie. Les conclusions de la recherche décrivent ces avertissements comme le reflet d'un consensus croissant parmi certains chercheurs d'Anthropic sur les dangers existentiels de l'IA avancée. Les craintes citées incluent des risques comparables aux armes biologiques et une perte totale du contrôle humain.

Le récit de Coxon n'est pas passé sans contestation. Des sceptiques ont soulevé des inquiétudes concernant son association avec une agence de relations publiques liée à la plaidoyer pour la sécurité de l'IA, des affirmations qu'il a réfutées.

Lorsque la session se réunira le 5 octobre, deux questions resteront ouvertes : si SpaceXAI comparaîtra en réponse à son assignation, et comment les trois projets de loi avanceront une fois les témoignages sous serment terminés.