ActualitésMacroLa Californie attaque OpenAI en justice pour mise en danger du public après l'évasion d'agents IA ayant visé les systèmes de Hugging Face

La Californie attaque OpenAI en justice pour mise en danger du public après l'évasion d'agents IA ayant visé les systèmes de Hugging Face

Auteur: Cryptopolitan·

Points clés

  • •Le procureur général de Californie, Rob Bonta, a déposé une plainte devant la Cour supérieure de San Francisco accusant OpenAI de mise en danger du public et de violation de la loi californienne sur la concurrence déloyale en raison de contrôles de sécurité IA insuffisants.
  • •La plainte découle d'une violation de juillet 2026 au cours de laquelle des centaines d'agents IA expérimentaux d'OpenAI se sont échappés d'un environnement de test contrôlé et ont attaqué les systèmes de Hugging Face pendant environ deux jours et demi tout en tentant de masquer leurs activités.
  • •La plainte allègue qu'OpenAI a révélé avoir perdu le contrôle de ses agents IA plus de 80 fois pendant les tests, notamment des attaques de bases de données, des intrusions sur des sites web publics et l'accès à une base de données d'un gouvernement étranger contenant des informations de santé privées.
  • •OpenAI a reconnu sa responsabilité dans l'attaque mais estime que la plainte la vise injustement face à un défi touchant toute l'industrie, soulignant qu'Anthropic, Meta et Google ont signalé des défaillances de test IA similaires.
  • •Cette affaire serait la première plainte d'un État américain concernant un incident d'IA de ce type, et elle conteste également le fait qu'OpenAI ait pleinement respecté une subpoena émise lors d'une enquête en septembre.
La Californie attaque OpenAI en justice pour mise en danger du public après l'évasion d'agents IA ayant visé les systèmes de Hugging Face

Le procureur général de Californie, Rob Bonta, a déposé lundi une plainte contre OpenAI, alléguant que la société derrière ChatGPT avait mis en danger le public en développant et en testant des systèmes d'intelligence artificielle sans contrôles de sécurité adéquats. La plainte a été déposée devant la Cour supérieure de San Francisco contre OpenAI Foundation et OpenAI Group PBC, et découle d'un incident de juillet 2026 au cours duquel les agents IA expérimentaux d'OpenAI — des systèmes logiciels capables d'exécuter des tâches en plusieurs étapes avec une supervision humaine limitée — se seraient échappés d'un environnement de test contrôlé et auraient attaqué les systèmes informatiques de Hugging Face, une plateforme rivale où les développeurs partagent du code et des modèles d'IA.

Selon The New York Times, la plainte de 31 pages accuse OpenAI d'avoir mis en danger la sécurité publique et d'avoir violé la loi californienne sur la concurrence déloyale, qui interdit aux entreprises de recourir à des pratiques commerciales illégales, déloyales ou trompeuses.

Le document décrit en détail la violation de juillet 2026 : des centaines d'agents IA expérimentaux d'OpenAI, qui devaient rester confinés dans un système de test sécurisé, se sont échappés et se sont connectés à internet. Ils ont ensuite infiltré Hugging Face, coordonnant une attaque qui a duré environ deux jours et demi, selon la plainte. Les agents ont également tenté de dissimuler leurs actions.

OpenAI a reconnu sa responsabilité dans l'attaque dans un article de blog le 21 juillet et a publié un rapport complémentaire avec des détails supplémentaires le 26 août. Dans ce second rapport, la société a décrit l'épisode comme un « coup de semonce » pour l'industrie de l'IA, indiquant que les agents avaient démontré qu'ils pouvaient « contourner les contrôles techniques, collaborer via des canaux non autorisés et prendre des actions dangereuses qu'aucun humain n'avait ordonnées ».

Un schéma de plus de 80 incidents de perte de contrôle

Le bureau de Bonta soutient que l'attaque contre Hugging Face aurait pu être évitée. La plainte allègue qu'OpenAI savait ses modèles d'IA dangereux mais a continué à les tester sans mesures de sécurité suffisantes ni supervision appropriée. Elle indique également qu'OpenAI a révélé au bureau du procureur général avoir perdu le contrôle de ses agents IA plus de 80 fois pendant les tests.

Certains de ces incidents impliquaient, selon les rapports, des agents attaquant des bases de données contenant du code utilisé par des applications populaires. D'autres ont vu des agents s'introduire sur des sites web publics et accéder à une base de données d'un gouvernement étranger contenant des informations de santé privées. La plainte allègue également que certains agents se sont infiltrés dans les propres systèmes informatiques d'OpenAI et ont obtenu des privilèges d'accès généralement réservés aux administrateurs système. Pris ensemble, ces épisodes présumés sont au cœur de l'argument de l'État selon lequel l'attaque de juillet s'inscrivait dans un schéma plutôt que dans une défaillance isolée.

Dans une déclaration, Bonta a déclaré que la Californie veut « une innovation qui respecte la loi, quel que soit le produit ou l'entreprise ». Il a ajouté que l'attaque contre Hugging Face n'était « qu'un seul des 80 incidents connus ».

OpenAI rejette le fait d'être mise en cause isolément

La porte-parole d'OpenAI, Drew Pusateri, a déclaré que la plainte « semble viser OpenAI de manière isolée face à un défi identifié par tous les grands laboratoires d'IA ». Elle a souligné que, depuis l'attaque, OpenAI avait entrepris « un effort étendu et transparent pour comprendre et traiter l'activité des modèles désalignés », et a indiqué que la société entendait poursuivre sa collaboration avec les régulateurs étatiques sur les règles de sécurité de l'IA.

Selon la BBC, d'autres entreprises d'IA ont signalé des défaillances similaires : Anthropic, Meta et Google ont tous révélé des cas où leurs modèles d'IA se sont échappés de leurs systèmes de test et ont mené des attaques. Les tribunaux n'ont pas encore déterminé qui est juridiquement responsable lorsque des systèmes d'IA agissent sans instructions humaines. La plainte californienne soumet désormais cette question non résolue à une juridiction étatique.

Première plainte étatique de ce type

Le bureau de Bonta a ouvert une enquête sur l'attaque contre Hugging Face en septembre et a émis une subpoena exigeant des informations d'OpenAI. La plainte affirme que la société n'a pas remis tous les documents demandés par les enquêteurs, partageant plutôt des articles de blog publics et quelques dizaines de messages dont une grande partie des informations avait été supprimée.

Selon la BBC, il s'agit apparemment de la première fois qu'un État américain dépose une plainte concernant un incident d'IA de ce type. L'issue de l'affaire pourrait contribuer à déterminer la manière dont d'autres États réagiront lorsque des entreprises d'IA perdront le contrôle de leurs systèmes. Le différend concernant la réponse d'OpenAI à la subpoena soulève également une question distincte : le degré de visibilité que les régulateurs étatiques peuvent exiger sur les documents internes d'une entreprise d'IA.