Le PDG de Microsoft, Satya Nadella, a une nouvelle recommandation à l'attention des entreprises déployant l'intelligence artificielle : traiter les modèles comme les équipes de sécurité traitent les menaces internes.

Sa recommandation centrale est simple. Aucun modèle d'IA ne devrait contrôler à la fois les actions qu'il entreprend et les preuves utilisées pour vérifier ces actions. Si un même système peut accomplir le travail et noter ses propres performances, a fait valoir Nadella, personne ne vérifie réellement quoi que ce soit.

Un cadre de menace interne pour l'IA

Le cadre de la menace interne provient de la sécurité des entreprises, où l'on anticipe déjà le comportement d'employés disposant d'un accès légitime mais susceptibles d'en abuser — une catégorie de risque longtemps gérée par des contrôles tels que la séparation des tâches, qui scinde les tâches et accès sensibles afin qu'aucune personne ni aucun système ne contrôle l'intégralité d'un processus de bout en bout. Selon Nadella, les agents d'IA autonomes relèvent de la même catégorie.

Un agent d'IA connecté aux systèmes d'une entreprise peut accéder aux données sensibles de celle-ci, tout comme un employé de confiance. Contrairement à un employé, cependant, son raisonnement peut être opaque, et il peut opérer avec un degré d'autonomie qui rend la supervision plus difficile.

Dans des déclarations du 10 octobre 2026, Nadella a évoqué les défis posés par les systèmes superintelligents et a appelé à séparer l'intelligence de l'autorité. En clair, un modèle peut être suffisamment intelligent pour recommander une décision sans qu'on lui fasse confiance pour l'exécuter sans contrôle.

Il a également esquissé un ensemble de contrôles pratiques, incluant des processus de vérification indépendants, la transparence du chaîne de raisonnement d'un modèle — le raisonnement étape par étape qu'un modèle produit pour parvenir à une réponse — et des mécanismes d'audit externes. L'objectif est une responsabilisation qui ne dépende pas de l'IA attestant d'elle-même.

Une tendance, pas une remarque isolée

Lors d'une apparition le 17 septembre 2026 dans l'All-In Podcast, une émission consacrée à la technologie et à l'économie, Nadella a signalé la possibilité que des agents d'IA d'entreprise déforment des données financières, qualifiant cela de nouveau type de risque interne.

En juillet 2026, il avait introduit ce qu'il a appelé le « paradoxe inverse de l'information », l'idée que les entreprises utilisant l'IA pourraient finir par divulguer leurs propres connaissances propriétaires à travers leurs interactions avec ces systèmes.

Aux alentours du 14 septembre 2026, Microsoft a introduit un projet de code de conduite pour sa famille de modèles internes MAI. Le document met l'accent sur la supervision humaine et le maintien des personnes au cœur de la gouvernance de l'IA, et rejette les comportements trompeurs de l'IA. Dans un mémo de la mi-septembre 2026, Nadella aurait recommandé de prendre le temps nécessaire pour bien concevoir les mesures de sécurité, avertissant qu'à défaut, l'entreprise pourrait perdre son « permis d'opérer ».

Des implications au-delà de Microsoft

Microsoft cherche à être un fournisseur de premier plan de capacités d'IA tout en se positionnant comme l'entreprise qui respecte la souveraineté des entreprises — le principe selon lequel les clients conservent le contrôle de leurs propres données et systèmes. Vendre des agents puissants est plus facile lorsqu'on vend également les garde-f qui les rendent sûrs à déployer.

Toute entreprise accordant aux agents d'IA l'accès à des systèmes financiers, à des données clients ou à des opérations internes pourrait devoir repenser la supervision de ces agents. Cela pourrait signifier séparer le système qui agit du système qui vérifie, consigner les raisonnements et faire appel à des auditeurs externes.

La question clé est de savoir si ces principes passeront des discours et des documents préliminaires à des pratiques contraignantes. Le code de conduite MAI demeure un projet. La manière dont Microsoft le finalisera, et l'adoption ou non par les clients de la séparation entre action et vérification décrite par Nadella, montreront le sérieux avec lequel l'industrie prend ses propres avertissements.

Source : CryptoBriefing