ActualitésMacroUn agent IA exploite le système de réservation d'une salle de sport australienne, relançant le débat sur les risques des agents autonomes

Un agent IA exploite le système de réservation d'une salle de sport australienne, relançant le débat sur les risques des agents autonomes

Auteur: Decrypt·

Points clés

  • Un agent IA utilisant Claude d'Anthropic sur la plateforme OpenClaw a découvert et exploité de manière autonome une vulnérabilité de contrôle d'accès défaillant dans l'API de réservation d'une salle de sport australienne afin d'annuler la réservation d'un autre membre sans autorisation.
  • L'Australian Broadcasting Corporation a qualifié l'incident de première cyberattaque autonome connue en Australie, l'agent ayant identifié et exploité de lui-même une faille réelle lors d'une utilisation grand public normale.
  • Une étude publiée en mai par des chercheurs de UC Riverside, Microsoft et Nvidia a montré que les agents IA se comportaient dangereusement dans environ 80 % des tests et exécutaient des actions nuisibles dans 41 % des cas, souvent à cause d'instructions floues ou contradictoires.
  • Après des incidents similaires impliquant des modèles d'OpenAI, d'Anthropic et de Meta ayant échappé à des environnements contrôlés, des législateurs ont proposé un kill switch pour l'IA qui permettrait au gouvernement fédéral de restreindre des modèles puissants en cas d'urgence.
  • Le Criminal Code Act australien criminalise déjà l'accès non autorisé et la modification de données informatiques, ce qui soulève des questions non résolues sur la responsabilité juridique lorsque des agents autonomes causent des dommages sans instruction explicite de l'utilisateur.
Un agent IA exploite le système de réservation d'une salle de sport australienne, relançant le débat sur les risques des agents autonomes

Un agent IA a exploité une faille de sécurité dans le système de réservation en ligne d'une salle de sport australienne, annulant la réservation d'un autre membre pour faire remonter son utilisateur sur une liste d'attente — un cas que l'Australian Broadcasting Corporation (ABC) a qualifié de première cyberattaque autonome connue en Australie.

Selon l'ABC, l'incident s'est produit plus tôt cette année lorsqu'un homme identifié uniquement comme Andrew a utilisé un agent OpenClaw propulsé par Claude d'Anthropic pour réserver un cours de sport. L'agent a découvert qu'Andrew était quatrième sur la liste d'attente. Lorsque Andrew lui a demandé s'il pouvait le faire passer en tête, l'agent a identifié une faille dans l'interface de programmation d'applications, ou API, de la plateforme de réservation : le système ne vérifiait pas si les utilisateurs étaient autorisés à annuler les réservations d'autres personnes.

La vulnérabilité relève du contrôle d'accès défaillant — la catégorie que l'Open Web Application Security Project (OWASP) classe comme le risque de sécurité des applications web le plus répandu, lorsque les systèmes ne vérifient pas si un utilisateur est autorisé à effectuer une action donnée. Exploiter ce type de faille ne nécessite pas d'outils de piratage sophistiqués ; l'agent a simplement envoyé des requêtes d'annulation que l'API n'était pas conçue pour refuser.

L'agent a testé la vulnérabilité en supprimant la première personne sur la liste d'attente, ce qui a fait passer Andrew de la quatrième à la troisième place.

« L'API n'a aucune vérification d'autorisation pour annuler les réservations d'autres personnes », a déclaré l'agent à Andrew, selon l'ABC.

Andrew a demandé à l'agent d'annuler la suppression, mais celui-ci n'a pas pu restaurer la réservation du membre concerné. « Mauvaise nouvelle — je ne peux pas la remettre », aurait déclaré l'agent IA.

L'incident a suscité des débats sur les réseaux sociaux autour de l'alignement de l'IA et des risques potentiels des agents autonomes.

« Un accro de la salle demande à #AIagent de lui réserver un cours, il pirate une #API de liste d'attente pour le faire remonter », a écrit le technologue Benjamin Carr sur LinkedIn.

« Certains appelleront cela un désalignement, mais son agent était parfaitement aligné avec lui — il essayait seulement d'aider son utilisateur à obtenir ce qu'il voulait », a écrit l'analyste IA Andrew Curran sur X.

A man in Australia asked his agent (Claude running on OpenClaw) to book him a spot in a popular gym class. The agent found a software vulnerability that let it book the class weeks further ahead than should have been possible. When the user then asked if it could move him up the… pic.twitter.com/9QqfpQp7ze — Andrew Curran (@AndrewCurran_) August 9, 2026

Sur Reddit, les réactions allaient de l'amusement à l'inquiétude existentielle. « C'est hilarant jusqu'à ce qu'on pense aux nukes », a écrit un utilisateur. « Je suis honnêtement surpris que nous existions encore. » Un autre a plaisanté : « Hey Claude, it's too cold today » -> « Got you...nukes on the way. »

Ce piratage de salle de sport intervient dans un contexte de préoccupations croissantes, exprimées par des chercheurs, des entreprises d'IA et des législateurs, selon lesquelles les agents autonomes peuvent employer des méthodes que leurs utilisateurs n'ont ni demandées ni anticipées. Contrairement aux incidents de laboratoire documentés par les principaux laboratoires d'IA, ce cas s'est produit de manière spontanée dans un environnement grand public : un agent opérant via une plateforme open source a découvert et exploité de façon autonome une vulnérabilité réelle lors d'une utilisation courante, contre un service tiers sans relation directe avec le développeur de l'IA.

Une étude publiée en mai par des chercheurs de UC Riverside, Microsoft et Nvidia a qualifié ce comportement de « blind goal-directedness ». Les chercheurs ont testé des agents d'OpenAI, Anthropic, Meta, Alibaba et DeepSeek, et ont constaté que les agents se comportaient de manière dangereuse dans environ 80 % des tests et exécutaient des actions nuisibles dans 41 % des cas, interprétant souvent mal le contexte ou agissant sur des instructions floues ou contradictoires.

En juillet, OpenAI a révélé que deux de ses modèles s'étaient échappés d'un bac à sable de test et avaient compromis Hugging Face tout en cherchant des réponses de benchmark. L'entreprise a ensuite précisé que les modèles avaient accédé à quatre autres services en ligne. Anthropic a ensuite indiqué que trois modèles Claude avaient compromis de véritables organisations après qu'une erreur de test les avait exposés à Internet. En août, Meta a déclaré qu'une erreur similaire avait permis à l'un de ses modèles d'exploiter un service tiers.

Ces incidents ont conduit des législateurs à proposer un « kill switch » pour l'IA qui permettrait au gouvernement fédéral de restreindre ou de désactiver des modèles puissants en cas d'urgence. En Australie, le Criminal Code Act fédéral criminalise déjà l'accès non autorisé et la modification de données stockées dans des systèmes informatiques — des dispositions qui, selon la qualification de l'incident par l'ABC comme cyberattaque, pourraient s'appliquer aux actions menées par des agents autonomes au nom d'utilisateurs, soulevant des questions non résolues sur la responsabilité juridique lorsque des systèmes d'IA causent des dommages sans instruction explicite de l'utilisateur.