La société de recherche en IA Anthropic a publié son dernier rapport de renseignement sur les menaces, «Detecting and Countering Misuse of AI: September 2026», qui détaille les tentatives d’acteurs malveillants visant à militariser ses modèles Claude pour des opérations cybernétiques, des campagnes d’influence, de la surveillance, de la recherche biologique, du développement d’armes, de la fraude et de la distillation de modèles.

Le rapport couvre des activités détectées et perturbées entre décembre 2025 et août 2026. Les cas concernaient des groupes présumés soutenus par des États, des criminels motivés par des intérêts financiers, des fournisseurs de logiciels espions commerciaux et des institutions de propagande opérant en Russie, en Chine, en Iran et dans d’autres régions.

Anthropic a déclaré qu’aucun des cas documentés d’utilisation abusive n’impliquait ses modèles Fable ou Mythos, les plus performants, à l’exception d’un cas décrit dans la section consacrée à la distillation. L’entreprise a également souligné que les incidents présentés ne représentaient pas l’utilisation abusive habituelle. Ils ont plutôt été sélectionnés comme les activités malveillantes les plus sophistiquées et les plus inédites identifiées à ce jour. Le rapport constitue donc un relevé des utilisations abusives documentées de haut niveau, et non une mesure de la fréquence de ces activités. Anthropic affirme avoir suspendu les comptes associés dans chaque cas, renforcé ses dispositifs de protection à partir des résultats de ses enquêtes et partagé ses renseignements avec les autorités et ses partenaires du secteur.

We're publishing our most detailed threat intelligence report to date. It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them. We disrupted every operation in the report,… — Anthropic (@AnthropicAI) September 10, 2026

https://x.com/AnthropicAI/status/2098097512544444447?ref_src=twsrc%5Etfw

De l’assistant à l’orchestrateur : principaux enseignements

La conclusion centrale du rapport est que l’IA est passée d’un outil de conseil à un orchestrateur opérationnel dans la cybercriminalité. Dans la plupart des opérations examinées, les acteurs malveillants ont déployé des architectures multi-agents capables d’effectuer de manière autonome la reconnaissance, l’exploitation, la collecte d’identifiants et l’exfiltration de données. Les participants humains se sont principalement chargés de sélectionner les cibles et d’examiner les résultats.

Un cas notable, identifié sous le nom de GTG-20006, était lié au groupe russe affilié à l’appareil d’État Midnight Blizzard. Le groupe a utilisé des flux de travail pilotés par l’IA pour l’hameçonnage, le développement de logiciels malveillants et l’évasion, en reconstruisant automatiquement ses outils chaque fois que des produits de sécurité les détectaient. Par ailleurs, des affiliés présumés de ShinyHunters ont utilisé l’IA pour industrialiser la collecte d’identifiants, en décompilant 1,8 million d’applications Android à la recherche de secrets et en réalisant des compromissions en seulement deux à trois heures.

En dehors des opérations cybernétiques, Anthropic a documenté des campagnes d’influence ciblant les élections et l’opinion publique en Moldavie, au Kenya, en Malaisie et au Bangladesh. L’entreprise a également décrit des activités de surveillance alignées sur les intérêts d’États en Chine, en Iran et au Mali, notamment une plateforme conçue pour surveiller environ 25 millions d’abonnés mobiles.

Le rapport a en outre identifié des projets de développement d’armes, dont un programme de roquettes guidées au Yémen et un projet d’essaim autonome de drones en Russie. Sa section consacrée à l’utilisation abusive dans le domaine biologique présente cinq cas de recherches à double usage, notamment des travaux de gain de fonction sur le virus du chikungunya et des études portant sur l’adaptation de la grippe aviaire. Anthropic affirme que ses classificateurs ont en grande partie contenu ces activités.

Le rapport détaille également des campagnes illicites de distillation attribuées à des laboratoires chinois, notamment Alibaba, DeepSeek, Moonshot AI, Xiaomi et Zhipu. Anthropic accuse ces laboratoires d’avoir acheminé secrètement des requêtes d’utilisateurs vers Claude, collecté des traces de raisonnement et utilisé les résultats obtenus pour entraîner des modèles concurrents. Dans plusieurs cas, ce relais aurait exposé des données sensibles d’entreprises et de gouvernements à des tiers à l’insu des utilisateurs.

Anthropic a présenté cette divulgation à la fois comme un avertissement et comme une feuille de route. L’entreprise estime qu’à mesure que les modèles d’IA deviennent plus performants, des efforts coordonnés de détection et de défense de la part du secteur de l’IA et des gouvernements seront essentiels pour garder une longueur d’avance sur des adversaires persistants.

Source : Metaverse Post