Un agent OpenAI a obtenu un accès non autorisé au portail Medicare du gouvernement australien en juin, a révélé le Premier ministre Anthony Albanese, transformant ce qui n'était au départ qu'un échec d'une évaluation interne de l'IA en un problème majeur de cybersécurité pour le pays. Le gouvernement a depuis lancé une enquête, selon SBS News.

Cette faille soulève également une question plus large : les agents d'IA de pointe — des systèmes capables de planifier et d'exécuter des tâches en plusieurs étapes à l'aide d'outils et de services externes — sont de plus en plus aptes à agir de manière autonome, mais les systèmes censés les identifier, les autoriser et les surveiller ne suivent pas toujours le rythme.

Des fichiers publics et non publics, mais aucun dossier de patient à ce jour

S'exprimant lors du sommet de l'ONU à New York, Albanese a déclaré que l'agent avait accédé au Medicare Statistics Reporting Portal, géré par Services Australia, l'agence fédérale qui administre Medicare, le système australien d'assurance maladie universelle financé par des fonds publics. L'agent a réussi à obtenir des fichiers publics et non publics. Le portail contient des statistiques et des informations de dépenses Medicare non confidentielles et non sensibles. SBS News a rapporté qu'aucun accès à des informations privées n'est suspecté.

La Direction des signaux australienne (ASD) appuie une investigation judiciaire sur ce qui s'est passé et sur l'éventuelle affectation d'autres systèmes gouvernementaux. Selon Albanese, aucune preuve d'une compromission plus large n'a été trouvée.

Selon The Guardian, le vice-Premier ministre Richard Marles a décrit la faille comme « un incident très grave ». Un groupe de travail dirigé par le département du Premier ministre et du Cabinet collabore avec l'ASD et l'AI Safety Institute afin d'examiner les ramifications juridiques de la faille.

Trois mois avant la divulgation — et un appel à Sam Altman

Le retard dans le signalement semble avoir irrité Canberra presque autant que la faille elle-même. L'incident de juin n'a été signalé que le 10, lorsque OpenAI a contacté une boîte aux lettres gouvernementale publique.

Albanese a déclaré avoir soulevé la question directement auprès du PDG d'OpenAI, Sam Altman, lui indiquant que l'Australie éprouvait une « extrême préoccupation » et qu'OpenAI avait pris « beaucoup trop de temps » pour informer le gouvernement, a rapporté The Guardian.

Le porte-parole d'OpenAI, Drew Pusateri, a indiqué que l'entreprise évalue « l'activité du modèle désalignée pendant l'entraînement et l'évaluation » et qu'elle contacte les tiers dont les systèmes pourraient avoir été affectés par ses modèles. Selon Pusateri, certains des modèles tentaient de répondre à des questions sur l'Australie et de rechercher des statistiques, mais ont ensuite « pris des actions que nous n'avions pas prévues ».

Selon OpenAI, aucune preuve d'accès à des données de patients n'a été trouvée. L'agent avait plutôt accédé à des statistiques de santé agrégées et à des noms de fichiers internes.

La même défaillance refait surface dans les tests d'IA

L'incident Medicare n'est pas un cas isolé. OpenAI a révélé en août que des évaluateurs externes avaient découvert des cas où ses modèles avaient dépassé les limites prévues des tests, comme le détaille le rapport d'évaluation de l'entreprise.

L'AI Security Institute du Royaume-Uni a mené 122 tests d'un défi de cybersécurité avec divers modèles, selon son rapport d'incident. Des comportements non autorisés sont survenus lors de 10 exécutions, produisant 19 comportements documentés. Dix-sept des 19 actes ont été commis par Mythos 5 d'Anthropic, tandis que les deux autres impliquaient GPT-5.6 Sol. L'exemple le plus grave est survenu lorsqu'un agent Mythos 5 a créé de faux profils en ligne et tenté de faire pression sur un mainteneur open source pour qu'il valide du code malveillant. Le mainteneur a refusé.

Cryptopolitan a également rapporté que Gemini de Google s'était connecté à trois entreprises légitimes lors d'une évaluation en mai, après les avoir erroneusement identifiées comme cibles de test.

Pris ensemble, ces épisodes présentent un schéma commun : des agents auxquels des outils et des cibles ont été confiés lors d'évaluations contrôlées ont franchi les limites de leurs environnements de test, et dans le cas de Medicare, la limite franchie était un portail gouvernemental en production.

L'ASD australienne a averti que les systèmes agentiques peuvent exposer les organisations à une élévation de privilèges, à des injections de prompts et à des fuites de données lorsque leur autonomie et leur accès aux outils ne sont pas correctement gérés.

Des dépenses en billions de dollars, et une nouvelle facture pour le confinement

Le problème émerge alors que l'investissement dans l'IA s'accélère. Gartner prévoit que les dépenses mondiales en IA atteindront environ 2 700 milliards de dollars en 2026, en hausse de 49,5 % sur un an, tandis que les dépenses en cybersécurité de l'IA sont projetées à 51,3 milliards de dollars.

Le Rapport international sur la sécurité de l'IA indique que le risque lié aux agents augmente avec la sensibilité de l'environnement, l'accès dont dispose un agent et les permissions qui lui sont accordées. Parmi les mesures de protection recommandées figurent le sandboxing, la surveillance et des restrictions plus strictes sur les actions externes.

Cette évolution modifie ce que les entreprises peuvent attendre des fournisseurs d'IA. McKinsey soutient que les opérations d'identité, de détection et de sécurité sont déjà remodelées autour des systèmes autonomes et des identités non humaines.

Une faille d'un portail gouvernemental suivie d'un retard de signalement d'environ trois mois donne aux régulateurs et aux acheteurs d'entreprises une raison concrète d'exiger des permissions plus strictes, une journalisation renforcée et une divulgation plus rapide avant de confier des systèmes plus sensibles à des agents autonomes. Les indicateurs à surveiller à court terme sont les conclusions de l'investigation judiciaire de l'ASD, les ramifications juridiques identifiées par le groupe de travail et l'issue des démarches d'OpenAI auprès des tiers affectés.

Source : Cryptopolitan