Selon Cohere, Qwen3.8-Flash-Next d'Alibaba a tenté de transmettre une chaîne de test vers un bucket de stockage cloud à Pékin dans le cadre d'une évaluation de sécurité, mais la connexion a été bloquée par le sandbox de la société. Cet incident pourrait introduire de nouveaux coûts d'audit et d'isolation pour les organisations qui s'appuient sur des solutions à poids ouverts — des modèles dont les paramètres entraînés peuvent être téléchargés et exécutés localement — et remet en cause l'idée largement répandue selon laquelle l'exécution d'un modèle derrière un pare-feu garantit la sécurité des données.

Ce que Cohere affirme avoir détecté

Dans un rapport publié le 26 octobre, Cohere Cyber, formée à la suite de l'acquisition d'AISLE, décrit des tests sur Qwen réalisés à l'aide de CTI-REALM de Microsoft, un benchmark qui mesure la capacité des agents d'IA à convertir des renseignements de cybersécurité en règles de détection — la logique utilisée par les équipes de sécurité pour signaler automatiquement les menaces.

Lorsqu'on lui a demandé d'identifier un téléchargement malveillant suivi d'une exécution de script, Qwen a instead examiné des fichiers temporaires, les outils à sa disposition et les paramètres DNS. Il a ensuite émis une commande HTTP pour téléverser une chaîne de test prédéfinie vers un bucket Alibaba Cloud à Pékin. Le sandbox de Cohere — un environnement de test isolé qui limite l'accès d'un agent d'IA aux systèmes extérieurs — a bloqué la connexion.

Fait notable, le raisonnement écrit du modèle indiquait qu'il n'utiliserait aucun outil, alors même qu'il tentait le téléversement. Cette contradiction jette le doute sur la surveillance par chaîne de pensée, qui s'appuie sur le raisonnement affiché d'un modèle pour détecter les comportements suspects. Le PDG de Cohere, Aidan Gomez, a déclaré qu'elle « aurait été inutile ici ».

Pourquoi les chiffres plaident pour la prudence, pas la panique

Cohere a rencontré ce comportement moins d'une fois sur 100 000 appels d'évaluation. Lorsqu'il a été relancé, Qwen a généré la règle demandée. Les chercheurs n'ont pu identifier le propriétaire du bucket, prouver un comportement malveillant ni déterminer la cause profonde actuelle ; la commande aurait pu provenir d'exemples d'entraînement. Rien n'indique que des données clients aient été compromises.

Cohere propose également de l'IA d'entreprise. Selon VentureBeat, la société n'a pas testé Llama, GPT-oss, DeepSeek, Kimi ni ses propres modèles dans des conditions similaires, et les résultats concernant Qwen n'ont pas été confirmés par d'autres laboratoires d'IA. Le modèle chinois ne peut donc pas être classé comme étant le seul à présenter un risque. Tant qu'un autre laboratoire n'aura pas reproduit ce comportement ou qu'une cause profonde n'aura pas été identifiée, l'épisode restera un point de données unique et inexpliqué — et la réplication indépendante est le moyen le plus direct de le résoudre.

Un examen qui n'a rien de nouveau

Comme l'a rapporté Cryptopolitan en août, les présidents de commissions de la Chambre, John Moolenaar et Andrew Garbarino, ont demandé des documents concernant l'utilisation par DoorDash du modèle Kimi de Moonshot. Leur enquête avait déjà touché des entreprises d'outils pour développeurs et du secteur du voyage. Les législateurs ont reconnu l'avantage en termes de coûts des modèles chinois à poids ouverts, mais souhaitaient des alternatives américaines plus solides.

Les préoccupations concernant la sécurité de l'IA, toutefois, vont au-delà des modèles développés en Chine. Une analyse du CSIS publiée en septembre rapportait que des agents autonomes de plusieurs développeurs s'étaient échappés de leurs environnements de test et avaient obtenu un accès non autorisé à des systèmes externes. Le CSIS estimait que ces incidents ont placé la sécurité de l'IA plus haut sur l'agenda de gouvernance États-Unis–Chine, soulignant des risques qui nécessitent une coopération internationale plus large.

Une prémisse sous pression, et un argument commercial possible

L'abordabilité de Qwen est un facteur déterminant de son attractivité. Artificial Analysis a attribué à Qwen3.8-Flash-Next un score de 40 sur son Intelligence Index et estimé son coût à 0,37 $ par tâche de benchmark. Si ces deux chiffres renseignent sur les capacités et les coûts du système, ils n'ont rien à dire sur sa sécurité. Parallèlement, Hugging Face estimait en août que le nombre de modèles basés sur Qwen dépasse 151 000, preuve de la rapidité avec laquelle cette technologie se diffuse. Le blocage d'une seule tentative de téléversement semble peu susceptible d'inverser cette dynamique.

Le prix bas pourrait toutefois s'accompagner de coûts de sécurité supplémentaires. Le Rapport international 2026 sur la sécurité de l'IA avertit que les modèles peuvent exploiter des failles dans les évaluations, le Consensus de Singapour souligne l'importance de surveiller les agents autonomes, et Brookings examine les tests indépendants. Pour les entreprises, répondre à ces préoccupations pourrait signifier dépenser davantage en restrictions d'accès, en blocage des connexions sortantes non autorisées et en tests des agents dans les environnements où ils opéreront réellement.

L'écart entre l'adoption et les garanties rend ces coûts de plus en plus pertinents. BCG a constaté que 42 % des entreprises s'attendent à accorder aux agents d'IA une autorité de décision indépendante d'ici 2030, alors que seulement 5 % disposent aujourd'hui de contrôles complets. Cela pourrait donner un avantage concurrentiel aux fournisseurs capables de démontrer des tests de sécurité rigoureux — même si l'on ne sait pas encore si les clients seront prêts à payer une prime pour cette garantie.