Malgré les appels des dirigeants des laboratoires d'IA de pointe à un ralentissement, la plupart des entreprises privilégient le renforcement de la gouvernance plutôt que la suspension de leur utilisation de l'intelligence artificielle, selon un nouveau rapport de OneTrust, fournisseur de solutions d'IA, de confidentialité et de sécurité des données.

Le rapport a révélé que, si de nombreuses entreprises ont rencontré des problèmes liés à l'IA au cours de l'année écoulée, la plupart ne ralentissent ni ne suspendent leurs déploiements d'IA. Ces incidents incluent l'exposition de la propriété intellectuelle ainsi que des agents d'IA utilisant, transmettant et supprimant des données.

Lors d'un entretien, le directeur de l'innovation de OneTrust, Blake Brannon, a expliqué pourquoi les entreprises continuent de pousser l'IA et comment elles peuvent se concentrer davantage sur la gouvernance que sur l'avancement rapide des modèles d'IA.

La pression des conseils d'administration soutient la dynamique

Le rapport a noté que, malgré les incidents liés à l'IA, les entreprises continuent d'encourager l'utilisation de l'IA et des agents d'IA. Interrogé sur ce qui alimente la dynamique de déploiement de la technologie, Brannon a pointé la pression exercée au sommet des organisations.

« Dans toutes les entreprises, de haut en bas, la première question que pose votre conseil d'administration est : “Que faisons-nous avec l'IA ? Comment transformons-nous notre façon de travailler, les produits et services que nous construisons ? Allons-nous être disruptés par les modèles de pointe, par les startups en place ? Quelle est notre fosse défensive ?” » a-t-il déclaré.

« Cette pression pousse chacun à être un peu agressif, à accélérer et à chercher comment utiliser l'IA. »

Dès que les organisations commencent à évaluer et à déployer ces outils, les préoccupations de gouvernance et de sécurité apparaissent rapidement, a indiqué Brannon. Tout le monde prend conscience de la réalité suivante : d'ici deux ans, il y aura plus d'agents en action que d'humains dans chaque entreprise au monde.

Il a fait valoir que les programmes et processus que les entreprises ont construits au fil du temps pour se gouverner ont été conçus à une époque où un humain instanciat ce que l'entreprise faisait — soit une personne faisait le travail, soit une personne construisait un système logiciel déterministe pour le faire. Cela rendait ces activités gouvernables parce qu'elles avançaient au rythme humain.

« Aujourd'hui, il y a les développeurs citoyens, les bâtisseurs citoyens. Tout le monde peut créer un agent », a déclaré Brannon. Cela rompt fondamentalement le fonctionnement traditionnel de la gouvernance et de la sécurité dans les organisations, a-t-il expliqué, car ce que les organisations faisaient autrefois pour protéger leurs données prenait des semaines — et doit désormais être résolu en quelques secondes.

De la preuve de concept à l'échelle

Interrogé sur la manière dont ce changement conduit les organisations à investir dans la gouvernance, Brannon a affirmé que la confiance est le facteur déterminant de l'autonomie.

« Vous pouvez créer toute cette IA formidable, mais si vous ne lui faites pas confiance, vous ne pouvez pas la laisser libre », a-t-il déclaré. « Vous ne pouvez pas la laisser fonctionner de manière autonome, vous devez donc résoudre ce problème. »

L'investissement devient crucial, a-t-il ajouté, car les entreprises dépassent les preuves de concept et passent à l'échelle. Avec l'échelle vient la question simple de savoir comment faire confiance à l'IA, savoir ce qui s'y passe et la contrôler — c'est pourquoi les organisations consacrent plus de temps à ce problème.

Une façon de cadrer le défi, selon Brannon, est que les systèmes d'IA doivent se comporter comme l'organisation ou l'un de ses employés le ferait. Ce qu'une entreprise juge comme une action acceptable est enraciné dans des facteurs tels que la conformité, les pratiques de sécurité et sa promesse de marque, et les agents doivent imiter ces standards. Cela constitue, selon lui, une partie du problème.

La seconde partie consiste à empêcher que de mauvaises choses se produisent. « Vous devez avoir les freins d'urgence de la voiture enclenchés. Vous devez voir que cet agent va entreprendre une action destructrice, et vous voulez l'arrêter », a déclaré Brannon. C'est une tâche nuancée car les systèmes d'IA n'héritent pas de choses comme l'identité et les permissions des personnes, et « nous voulons que les humains soient au milieu de ce genre de situation ».

Deux principes pour gouverner une IA en évolution rapide

Alors que les organisations avancent rapidement avec l'IA pendant que les fournisseurs de technologie mettent à jour leurs modèles à un rythme soutenu, Brannon a décrit deux principes qui façonnent l'architecture nécessaire pour associer la confiance à ces systèmes.

Le premier est la reconnaissance qu'un modèle lui-même ne peut pas être considéré comme fiable. « Nous voyons presque chaque week-end quelqu'un publier un blog ou un article disant : “Régulez-nous, nous ne pouvons pas faire confiance à nos systèmes, et c'est très dangereux” », a-t-il déclaré.

Cela signifie que les organisations doivent supposer qu'un modèle sortira de son harnais, et qu'un modèle pourrait se manipuler pour se convaincre que tout ce qu'il fait est acceptable. L'architecture de gouvernance doit donc être un harnais indépendant, séparé de la chose réellement gouvernée.

« C'est ainsi que la société fonctionne depuis des milliers d'années », a déclaré Brannon. « Le pouvoir gouvernemental est intentionlement séparé. Les services d'une entreprise sont intentionnellement séparés pour créer une distinction claire et impartiale entre l'organe gouvernant et la chose gouvernée. » Pour l'IA, cela signifie que les modèles et les fournisseurs ont besoin d'un agent de gouvernance indépendant, ou harnais de gouvernance, pour évaluer ce que fait un système d'IA et un agent.

Le second principe émergent traite de la complexité du suivi des modèles et des harnais en constante évolution. Brannon a déclaré que chaque organisation exploitera un ensemble fragmenté de fournisseurs de modèles, de modèles et de harnais différents, car le marketing veut utiliser une chose, le support client a besoin d'autre chose et l'ingénierie a besoin d'autre chose encore. Cette fragmentation crée une complexité énorme dans le contrôle et la gouvernance de systèmes qui se comportent tous différemment.

L'architecture, a-t-il dit, évolue vers une question plus simple : que fait le modèle, et pourquoi le modèle a-t-il pensé ce qu'il a pensé ? Ce qui compte pour une entreprise, c'est lorsque le système d'IA agit réellement — lorsqu'il tente de lire des données d'un système d'entreprise, d'envoyer un e-mail ou de supprimer un enregistrement. En pratique, cela place l'attention de la gouvernance sur les points où un système d'IA peut affecter les données et les opérations de l'entreprise, plutôt que sur le modèle isolé.

« C'est à ce moment-là que la gouvernance m'importe », a déclaré Brannon. « Je peux concevoir mes contrôles de gouvernance autour d'un point fixe où le système se connecte à mes données qui me tiennent à cœur, et être capable de mettre en place les bons garde-fous et politiques sur ce point fixe. »

Note de la rédaction : l'entretien a été édité pour le style et la concision.

L'entretien a été réalisé par Esther Shittu, journaliste pour AI Business, qui couvre les technologies d'IA et les tendances du secteur depuis 2021 et co-anime le podcast Targeting AI.

Cet article est basé sur un reportage publié par AI Business le 21 septembre 2026 : L'accélération de l'adoption de l'IA et la gouvernance dans un contexte de ralentissement de l'IA.