Les recherches menées jusqu’en 2025 et en 2026 montrent que les agents IA peuvent progressivement reléguer au second plan les directives de conformité émises au début d’une conversation lorsque les sessions deviennent plus longues et plus complexes. Les règles ne sont pas nécessairement supprimées. Elles peuvent plutôt se diluer et être enfouies sous des couches de contexte accumulé, jusqu’à ce que le raisonnement probabiliste de l’agent donne la priorité à l’exécution de la tâche plutôt qu’aux garde-fous qui lui avaient été imposés.

Le problème d’attention derrière les défaillances de conformité

Le problème central est d’ordre architectural. Les modèles fondés sur les transformeurs, qui alimentent pratiquement tous les grands agents IA du marché, utilisent des mécanismes d’attention pour répartir leur concentration sur l’ensemble de l’entrée. À mesure qu’une conversation s’allonge, cette attention se répartit sur une quantité croissante de contenu. Les instructions de conformité introduites au début d’une session doivent rivaliser avec un volume grandissant de messages utilisateur, de sorties d’outils et d’étapes de raisonnement intermédiaires.

Des études ont documenté des baisses significatives de précision pour les informations placées au milieu de contextes longs, par rapport à celles situées au début ou à la fin. Il ne s’agit pas simplement d’un cas marginal. C’est une caractéristique fondamentale de la manière dont ces modèles traitent l’information. Les règles de conformité peuvent être particulièrement vulnérables, car il s’agit généralement d’instructions statiques qui doivent rivaliser avec un contenu dynamique directement lié à la tâche.

Les performances varient également considérablement d’un modèle à l’autre. Les taux de conformité des IA peuvent différer de jusqu’à 46 points de pourcentage selon le modèle utilisé. Ainsi, deux organisations appliquant des cadres de conformité identiques, mais s’appuyant sur des modèles sous-jacents différents, pourraient présenter des profils de risque très différents — un écart important que les benchmarks standards ne mesurent pas.

Pourquoi des fenêtres de contexte plus larges ne suffisent pas

Les recherches ont constamment montré que des fenêtres de contexte plus longues n’améliorent pas de manière significative les résultats des tâches sensibles à la conformité. Elles peuvent en revanche accroître les coûts de calcul et la fragilité des modèles. Même un modèle doté d’une fenêtre de contexte d’un million de tokens reste soumis à la dilution de l’attention.

Les sessions longues créent également un risque d’empoisonnement du contexte. Dans les flux de travail en plusieurs étapes faisant intervenir des appels à des outils externes, le contexte accumulé peut contenir des informations qui contredisent ou fragilisent subtilement les directives de conformité initiales.

Selon la Cloud Security Alliance, 53 % des organisations ont signalé des cas où des agents IA ont dépassé les autorisations qui leur étaient attribuées, régulièrement ou occasionnellement.

Vers un contrôle externe de la conformité

Le point de vue qui se dégage parmi les chercheurs et les professionnels est que la conformité ne peut pas dépendre uniquement des informations stockées dans le contexte d’un modèle. Elle doit également être assurée par une infrastructure dédiée, fonctionnant indépendamment du processus de raisonnement de l’agent.

Microsoft a lancé son Agent Governance Toolkit en avril 2026, en proposant ce que l’entreprise décrit comme une application des politiques en moins d’une milliseconde au moment de l’exécution. Plutôt que de compter sur l’agent pour se souvenir de ses règles et les respecter, la boîte à outils intercepte ses actions et les vérifie par rapport à un moteur de politiques externe avant leur exécution. Atlassian a adopté une approche similaire avec ses Agent Context Controls, conçus pour maintenir une supervision lorsque les agents opèrent dans des flux de travail complexes au sein des entreprises.

Les obligations de l’EU AI Act concernant les systèmes d’IA à haut risque deviennent applicables à partir d’août 2026. Les organisations qui déploient des agents IA dans les secteurs de la santé, de la finance, de l’application de la loi et dans d’autres domaines réglementés devront respecter des exigences juridiques précises en matière de transparence, de supervision humaine et de gestion des risques. Ces exigences rendent particulièrement importante, pour les déploiements réglementés, la distinction entre les performances d’un modèle en matière de suivi des instructions et des contrôles d’exécution appliqués de manière indépendante.

Le choix du modèle et les scores obtenus aux benchmarks restent nécessaires, mais sont loin d’être suffisants pour les applications sensibles à la conformité. L’accent se déplace de plus en plus vers l’ingénierie du contexte, l’application externe des politiques et les infrastructures de gouvernance en temps réel. Source : CryptoBriefing