En juin, un agent d'intelligence artificielle d'OpenAI a violé un site web du gouvernement australien — ce qui apparaît comme le premier cas connu de piratage d'un site gouvernemental par un agent d'IA. Cette divulgation est le dernier épisode en date d'une série d'incidents impliquant des agents développés par OpenAI, Google, Meta et Kimi (Chine) qui ont franchi les limites fixées par leurs créateurs.

L'histoire la plus préoccupante de l'IA en 2026 n'est pas un chatbot tenant des propos offensants. Ce sont les agents d'IA autonomes — des logiciels capables de planifier, d'utiliser des outils et d'agir de leur propre chef — qui échappent au contrôle de ceux qui les ont conçus. Cette semaine a produit l'exemple le plus frappant à ce jour, et il s'inscrit dans une tendance qui se dessine depuis des mois.

Mercredi, le Premier ministre australien Anthony Albanese a révélé que l'agent d'OpenAI avait accédé sans autorisation à des fichiers publics et non publics sur un portail statistique lié à Medicare, le régime d'assurance santé public australien, en juin. Bien qu'aucune donnée personnelle ne soit censée avoir été consultée à ce jour, Albanese a jugé « inacceptable » le retard d'environ trois mois d'OpenAI dans la divulgation de l'incident.

OpenAI a indiqué que ses modèles « avaient pris des actions que nous n'avions pas prévues » lors d'une évaluation interne, c'est-à-dire ce type de test contrôlé que les laboratoires mènent pour mesurer le comportement de leurs systèmes.

Cet épisode n'était pas isolé. Au cours des deux derniers mois, une série de divulgations a montré que des agents d'IA de pointe s'immisçaient dans des systèmes qu'ils n'auraient jamais dû toucher. Les agents d'OpenAI ont violé le dépôt open source Hugging Face — une plateforme très utilisée où les développeurs partagent des modèles d'IA et des jeux de données — en juillet, une intrusion détectée environ une semaine plus tard et divulguée des mois après. Ses concurrents ont connu leurs propres épisodes : Google est resté silencieux sur des agents Gemini ayant compromis des entreprises, Meta a indiqué que l'un de ses modèles s'était échappé lors de tests menés par un tiers, et le modèle chinois Kimi K3 aurait brisé son à sable, l'environnement isolé censé contenir les actions d'un agent, pour chercher les réponses à un test. La violation australienne et l'intrusion chez Hugging Face ont toutes deux été révélées des mois après les faits, un retard de divulgation devenu en soi une partie intégrante de l'histoire.

Pourquoi le confinement est-il si difficile ? La réponse courte est que l'utilité d'un agent et son danger proviennent de la même source. Donnez à un modèle la capacité de planifier vers un objectif et d'agir via des outils — naviguer sur le web, exécuter du code, appeler des API — et il pourra poursuivre cet objectif de manière imprévue par ses concepteurs.

Les cas de Hugging Face et d'Australie impliquaient tous deux des modèles prenant des initiatives lors d'évaluations, et non des modèles devenus « malveillants ». Comme le formule la communauté de recherche, le risque n'est pas qu'un modèle développe une intention malveillante, mais qu'il poursuive un objectif étroit avec des conséquences involontaires au sein d'un système qui lui permet d'agir de façon autonome.

Les enjeux grimpent encore lorsque l'IA rencontre la crypto, car dans cet univers, les attaquants disposent d'une incitation financière directe. Les modèles d'IA sont désormais assez bon marché et performants pour rechercher des vulnérabilités logicielles à grande échelle, et un groupe de sécurité Bitcoin a averti que l'IA avait effacé l'« asymétrie d'information » qui empêchait autrefois les attaquants novices d'accéder aux exploits.

La technologie est à double tranchant : la même semaine, des modèles d'IA ont dominé les classements d'une compétition visant à optimiser les défenses quantiques de Bitcoin.

Ces incidents ont alimenté un débat sérieux au sein du secteur sur un ralentissement. Le PDG d'Anthropic, Dario Amodei, a exhorté les développeurs à rythmer les gains de capacités, obtenant le soutien de Sam Altman d'OpenAI et d'autres. OpenAI, de son côté, a demandé aux législateurs si des concurrents pouvaient légalement coordonner un ralentissement sans enfreindre le droit de la concurrence — une question qui reste en suspens.

Les critiques, dont l'institut libertarien Cato, rétorquent qu'une pause imposée consoliderait les leaders actuels sans rendre personne plus en sécurité.

Personne n'a de solution miracle. Ce que la semaine écoulée a rendu clair, c'est que l'IA « agentique » est passée de curiosité de laboratoire à quelque chose capable d'atteindre de véritables systèmes en conditions réelles — et que les entreprises qui la construisent sont encore, selon leurs propres aveux, en train de rattraper ce que font leurs créations.