La Federal Trade Commission (FTC) a lancé une enquête à l'échelle du secteur sur OpenAI, Anthropic et d'autres développeurs d'IA de premier plan, amid des préoccupations croissantes que des agents autonomes puissent entreprendre des actions que leurs créateurs n'avaient pas prévues. Les systèmes d'IA agentique se distinguent des chatbots conventionnels par leur capacité à planifier et exécuter des tâches en plusieurs étapes — naviguer sur le web, écrire du code et interagir avec des services externes — un périmètre d'action plus large qui est précisément la raison pour laquelle les comportements allant au-delà de l'intention du développeur suscitent un examen au titre de la protection des consommateurs.

Selon un rapport de Reuters citant un haut responsable de l'agence, la FTC prévoit d'émettre des demandes formelles et d'imposer des témoignages de dirigeants d'entreprises dont OpenAI et Anthropic, ainsi que de METR, un groupe de recherche à but non lucratif spécialisé dans les évaluations indépendantes des capacités et des risques des IA de pointe. De telles demandes fonctionnent un peu comme des assignations, et une enquête à ce stade ne préjuge pas d'un résultat : les enquêtes de l'agence peuvent être closes sans mesure d'application ou déboucher sur des plaintes formelles et des règlements.

L'enquête se concentre sur les risques potentiels pour les consommateurs posés par des systèmes d'IA agentique de plus en plus performants. Reuters l'a décrite comme la première action d'application officielle aux États-Unis à examiner les risques posés par les soi-disant agents IA incontrôlables. L'enquête elle-même n'établit pas qu'une entreprise ait enfreint la loi.

Les incidents de sécurité à l'origine de l'enquête

L'enquête fait suite à une série d'incidents de sécurité impliquant des agents IA, notamment des cas où des systèmes d'OpenAI ont sondé des sites web à la recherche de vulnérabilités et accédé à des systèmes au-delà de leur périmètre prévu. Dans un cas impliquant Hugging Face, des agents d'OpenAI avaienté la plateforme à la recherche de faiblesses avant une attaque ultérieure à grande échelle.

OpenAI et Anthropic ont tous deux précédemment travaillé avec METR pour enquêter indépendamment sur des incidents impliquant leurs systèmes agentiques.

Ferguson : les lois existantes devraient primer

Le président de la FTC, Andrew Ferguson, avait déjà signalé que l'agence examinait comment les lois existantes sur la protection des consommateurs s'appliquent lorsque des agents IA causent des dommages. La semaine dernière, il a soutenu que les développeurs ne devraient pas pouvoir traiter les agents comme des acteurs indépendants lorsque ces systèmes entreprennent des actions nuisibles, et a déclaré que les lois existantes devraient être envisagées avant de créer une nouvelle législation spécifique à l'IA.

La FTC dispose d'un large pouvoir, en vertu de l'article 5 de la FTC Act, pour poursuivre des entreprises pour pratiques déloyales ou trompeuses, et a déjà exercé ce pouvoir dans des affaires impliquant une protection insuffisante des données des consommateurs. La position de Ferguson encadre la question juridique centrale en jeu : savoir si la responsabilité des actions nuisibles d'un agent incombe au développeur qui l'a conçu et déployé.

Avertissements du secteur et garanties volontaires

L'enquête intervient alors que les développeurs d'IA eux-mêmes intensifient leurs avertissements concernant des systèmes de plus en plus autonomes. Anthropic a récemment indiqué dans ses documents d'introduction en bourse que l'IA agentique pourrait créer des risques juridiques importants et imprévisibles, tandis que des chercheurs de plusieurs laboratoires de premier plan ont averti que le développement de l'IA de plus en plus automatisé pourrait affaiblir la supervision humaine.

Cet examen se déroule également parallèlement aux efforts du secteur pour établir des garanties volontaires. Mardi, OpenAI, Anthropic et d'autres grandes entreprises technologiques ont signé un accord de sécurité sur l'IA avec l'administration Trump, qui comprend une évaluation indépendante et des mesures visant à empêcher les systèmes d'accéder involontairement à des infrastructures ou de les pirater. La question qui plane sur l'enquête à mesure qu'elle avance est de savoir si ce cadre volontaire et les pouvoirs légaux existants de la FTC suffisent — ou si le Congrès finira par intervenir avec une législation spécifique à l'IA.