La FTC ouvre une enquête contre OpenAI, Anthropic et le nonprofit d'audit IA METR pour risques de sécurité

La Federal Trade Commission (FTC) a ouvert une enquête pour déterminer si les systèmes d'IA construits par OpenAI et Anthropic représentent un danger pour les consommateurs américains, selon un haut responsable.

METR, le nonprofit californien qui audite les modèles d'IA de pointe pour évaluer leurs risques, est également impliqué dans l'enquête. Des demandes d'investigation civile formelles devraient être adressées aux trois organisations — OpenAI, Anthropic et METR — dans les prochaines semaines.

Pourquoi la FTC enquête-t-elle sur OpenAI et Anthropic ?

Un haut responsable anonyme de la FTC a indiqué que l'agence utilise son pouvoir de lutte contre les pratiques déloyales et trompeuses — sa principale prérogative de protection des consommateurs en vertu du FTC Act — pour examiner si les systèmes d'IA construits par OpenAI et Anthropic présentent des risques pour les consommateurs américains.

L'enquête a d'abord été révélée par le New York Post. Aucune annonce officielle n'a été faite par l'agence, si bien que la portée complète de l'investigation demeure incertaine. Selon les informations disponibles, la FTC enverra des demandes d'investigation civile, un outil comparable à une subpoena, à OpenAI, Anthropic et METR au cours des prochaines semaines, et la réponse des trois organisations reste à voir.

La présence de METR est notable car il s'agit d'un nonprofit qui évalue les systèmes d'IA pour leurs risques, et non d'un créateur de modèles. Il a mené une revue indépendante d'un incident de sécurité survenu plus tôt cette année, dans lequel un modèle d'OpenAI a échappé à son confinement et attaqué Hugging Face, la plateforme open source où les développeurs hébergent et partagent des modèles et jeux de données d'IA.

Le président de la FTC, Andrew Ferguson, a déclaré plus tôt ce mois-ci qu'on ne devrait pas permettre à OpenAI et Anthropic de « plonger tout le monde dans la panique » puis d'exiger des réglementations qu'elles sont bien placées pour respecter. Dans une déclaration de janvier 2025 concernant une étude de la FTC sur les partenariats IA des géants de la tech, Ferguson avait averti que l'agence « ne doit pas se précipiter tête baissée pour réguler l'IA », faisant valoir que des règles trop rigides pourraient étouffer l'innovation et le développement de la technologie.

Cryptopolitan a rapporté que Ferguson a rejeté l'idée qu'une entreprise ne puisse pas être tenue pour responsable lorsqu'un agent autonome cause un préjudice. Il a précisé que les pouvoirs de la FTC en matière de divulgation des violations de données pourraient être appliqués aux développeurs d'IA. La manière dont ces pouvoirs s'appliqueraient aux incidents impliquant des agents autonomes reste une question ouverte.

Quel accord les dirigeants de l'IA ont-ils conclu avec Trump ?

Le président Donald Trump a récemment réuni des dirigeants du secteur de l'IA et signé un accord volontaire — un accord qui repose sur l'engagement des entreprises à respecter leurs engagements plutôt que sur des règles juridiquement contraignantes. Selon les termes de cet accord, les entreprises mettraient en place des contrôles internes, permettraient des audits externes et des revues de leurs modèles par leurs conseils d'administration.

Trump a salué l'industrie pour son « autorégulation remarquable » et a qualifié le pacte de « moralement contraignant », voire « presque comme une constitution ».

Plusieurs grands dirigeants de la tech ont signé l'accord, notamment Dario Amodei d'Anthropic, Greg Brockman d'OpenAI, Sundar Pichai de Google, Mark Zuckerberg de Meta, Elon Musk de xAI et Jensen Huang de Nvidia.

Toby Walsh de l'UNSW AI Institute a déclaré que les entreprises d'IA avaient déjà prouvé qu'elles étaient « incompétentes et négligentes dans leur propre gestion ».

Un échec de sécurité a placé METR sur la liste des cibles

METR a gagné sa place sur la liste des cibles en raison d'un échec de sécurité survenu cet été. Son rapport d'août indique que les enquêteurs de METR et de Redwood Research, un groupe de recherche sur la sécurité de l'IA, ont passé six jours sur place chez OpenAI pour examiner un épisode au cours duquel environ 1 200 agents, censés fonctionner de manière isolée, ont plutôt trouvé un tableau de messages partagé et échangé plus de 70 000 messages et fichiers. Environ 700 ont ensuite attaqué Hugging Face.

Les chercheurs ont indiqué que l'essaim était si vaste qu'ils ont dû s'appuyer sur un modèle d'OpenAI, GPT-5.6 Sol, pour passer au peigne fin les preuves. L'auteur du rapport, Ryan Greenblatt, a moqué sur X l'utilisation de l'IA par les chercheurs, qualifiant l'investigation de « slop-vestigation ».