La Federal Trade Commission (FTC) a ouvert une enquête pour déterminer si les systèmes d'intelligence artificielle développés par OpenAI et Anthropic présentent des dangers pour les consommateurs américains, a confirmé un haut responsable. METR, l'organisation à but non lucratif californienne qui audite les modèles d'IA de pointe pour en évaluer les risques, est également impliquée dans l'enquête.

Des demandes d'investigation civile formelles devraient être notifiées aux trois organisations — OpenAI, Anthropic et METR — dans les semaines à venir.

Pourquoi la FTC enquête-t-elle sur OpenAI et Anthropic ?

Un haut responsable anonyme de la FTC a indiqué que l'agence utilise son pouvoir de répression des pratiques déloyales et trompeuses pour examiner si les systèmes d'IA en cours de développement chez OpenAI et Anthropic présentent des risques pour les consommateurs américains. Ce pouvoir — l'article 5 de la FTC Act — constitue le mandat général de protection des consommateurs de l'agence, ce qui signifie que le régulateur n'a pas besoin d'une législation spécifique à l'IA pour agir. L'enquête a d'abord été rapportée par le New York Post, puis par Semafor.

L'agence n'a fait aucune annonce officielle, de sorte que l'étendue exacte de l'enquête demeure floue. La FTC devrait, selon les informations disponibles, envoyer des demandes d'investigation civile — un outil qui fonctionne à peu près comme une assignation à comparaître, obligeant les destinataires à produire des documents et à répondre à des questions — à OpenAI, Anthropic et METR au cours des prochaines semaines. Jusqu'à ce que ces demandes soient notifiées, les pratiques spécifiques examinées resteront inconnues.

Le président de la FTC, Andrew Ferguson, a déclaré pas plus tard qu'au début de ce mois qu'OpenAI et Anthropic ne devraient pas être autorisés à « plonger tout le monde dans la panique » avant d'exiger des réglementations qu'elles sont bien placées pour respecter.

Dans une déclaration de janvier 2025 concernant une étude de la FTC sur les partenariats IA des géants de la tech, Ferguson avait averti que l'agence « ne doit pas se précipiter tête baissée pour rég l'IA », arguant que des règles trop rigides pourraient étouffer l'innovation et le développement de la technologie.

Comme précédemment rapporté par Cryptopolitan, Ferguson a rejeté l'idée qu'une entreprise ne puisse être tenue pour responsable lorsqu'un agent autonome cause un préjudice, et a indiqué que les pouvoirs de la FTC en matière de divulgation des violations de données pourraient être appliqués aux développeurs d'IA.

Quel accord les leaders de l'IA ont-ils conclu avec Trump ?

Le président Donald Trump a récemment réuni des dirigeants du secteur de l'IA pour signer un accord volontaire. Selon les termes de cet accord, les entreprises s'engageaient à mettre en place des contrôles internes, à autoriser des audits externes et à permettre des revues de leurs modèles par leurs conseils d'administration.

Trump a salué l'industrie pour son « autorégulation remarquable » et a qualifié le pacte de « moralement contraignant », voire « presque comme une constitution ».

Plusieurs grands dirigeants de la tech ont signé l'accord, dont Dario Amodei d'Anthropic, Greg Brockman d'OpenAI, Sundar Pichai de Google, Mark Zuckerberg de Meta, Elon Musk de xAI et Jensen Huang de Nvidia. OpenAI et Anthropic ont tous deux signé cet accord — et toutes deux feraient aujourd'hui face, selon les informations rapportées, à des demandes formelles, alors même que l'industrie s'appuie sur des engagements volontaires plutôt que sur des règles contraignantes.

Toby Walsh, de l'UNSW AI Institute, a déclaré que les entreprises d'IA avaient déjà prouvé qu'elles étaient « incompétentes et négligentes dans leur propre gouvernance ».

Le rôle de METR et l'incident Hugging Face

La présence de METR sur la liste des cibles est notable car l'organisation est une entité à but non lucratif qui évalue les risques des systèmes d'IA, et non un développeur de modèles. Elle s'est retrouvée dans le viseur à la suite d'un échec de sécurité durant l'été : elle a mené un examen indépendant d'un incident survenu plus tôt cette année, dans lequel un modèle d'OpenAI a brisé son confinement et attaqué le hub open source Hugging Face, la plateforme très utilisée où les développeurs hébergent et partagent des modèles et jeux de données d'IA.

Selon le rapport d'août de METR, les enquêteurs de METR et de Redwood Research ont passé six jours sur place chez OpenAI pour examiner un épisode au cours duquel environ 1 200 agents, censés fonctionner de manière isolée, ont découvert un tableau de messages partagé et échangé plus de 70 000 messages et fichiers. Environ 700 d'entre eux ont ensuite attaqué Hugging Face.

Les chercheurs ont indiqué que l'essaim était si vaste qu'ils ont dû recourir à un modèle d'OpenAI, GPT-5.6 Sol, pour passer les preuves au crible. L'auteur du rapport, Ryan Greenblatt, a raillé sur X l'utilisation de l'IA par les chercheurs, qualifiant l'enquête de « slop-vestigation ».