La véritable rupture ne surviendra peut-être pas lorsque les machines dépasseront les humains. Elle pourrait survenir lorsque les capacités de l’IA progresseront plus rapidement que les institutions ne peuvent les absorber.

Lors d’une récente réunion du comité des risques, la question semblait simple : la déclaration de l’organisation sur les risques liés à l’IA est-elle toujours exacte ? La réponse était moins évidente. Depuis la précédente revue, les systèmes d’IA avaient évolué de manière significative. Ils prenaient en charge des tâches plus longues, utilisaient davantage d’outils, fonctionnaient avec moins de supervision et contribuaient directement au développement logiciel et à la recherche. Le cadre de gestion des risques, lui, n’avait pas évolué au même rythme.

Rien n’avait nécessairement échoué. C’était précisément le problème. Le conseil d’administration était invité à approuver un environnement de contrôle conçu pour une technologie dont le profil de capacités dépassait déjà les hypothèses sur lesquelles il reposait.

C’est ici que le débat sur la singularité devrait commencer — non pas par des prédictions sur le moment où les machines dépasseront les humains, mais par une question de gouvernance moins exotique et plus urgente. Cette rupture ne nécessite ni explosion de l’intelligence, ni date précise, ni accord sur la définition de l’intelligence artificielle générale. Il s’agit déjà d’un problème de contrôle.

Trois débats généralement confondus

Une grande partie du débat public sur l’IA est confuse, car trois concepts distincts sont souvent traités comme s’ils n’en formaient qu’un.

La capacité décrit ce que les systèmes d’IA peuvent faire. Elle est empirique, vérifiable et progresse rapidement.

L’autonomie décrit la part du cycle de décision et d’action qui peut fonctionner sans intervention humaine directe. C’est là que se situe le défi immédiat de gouvernance. Un système d’IA qui génère une réponse est une chose. Un système qui détermine l’action suivante, accède à un outil, exécute cette action, en évalue le résultat et poursuit son fonctionnement est matériellement différent.

La singularité est une rupture spéculative : un point auquel l’amélioration pilotée par l’IA devient suffisamment autorenforçante pour rendre les prévisions humaines conventionnelles peu fiables.

Ces concepts ne sont pas interchangeables. Un administrateur n’a pas besoin de croire qu’une singularité technologique est imminente pour reconnaître qu’une autonomie croissante crée un environnement de contrôle différent. De même, on peut penser que les capacités de l’IA deviendront finalement transformatrices sans croire qu’une explosion de l’intelligence est inévitable.

Cette distinction est importante, car la gouvernance ne peut pas attendre que la troisième question soit tranchée avant d’agir sur la deuxième.

La boucle n’est pas fermée — mais elle n’est pas sans importance

Les éléments les plus solides en faveur de cet argument sont aussi les moins sensationnels. Les laboratoires d’IA de pointe délèguent de plus en plus certaines étapes du développement de l’IA à des systèmes d’IA eux-mêmes.

Anthropic décrit une progression allant des humains qui écrivent le code, aux agents de programmation qui en écrivent et en modifient des volumes substantiels, puis aux agents qui exécutent du code et délèguent des tâches à d’autres agents. Anthropic rapporte qu’en mai 2026, plus de 80 % du code intégré à sa base de code de production avait été écrit par Claude.

La précision importante concerne ce qui ne s’est pas encore produit. L’orientation de la recherche reste humaine et la boucle n’est pas entièrement autonome. Anthropic indique explicitement que l’amélioration récursive ne se produit pas encore dans un sens pleinement autonome et qu’elle n’est pas inévitable.

Sam Altman a de son côté décrit l’état actuel comme une version « larvaire » de l’amélioration récursive, tout en reconnaissant qu’il ne s’agit pas de la même chose qu’un système d’IA réécrivant lui-même son propre fonctionnement de manière autonome.

Cette précision renforce plutôt qu’elle n’affaiblit l’argument en faveur de la gouvernance. La question pertinente n’est pas de savoir si la boucle est fermée. Elle est de déterminer quelle part de cette boucle est déjà passée de l’exécution humaine à l’exécution machine — et si les contrôles institutionnels évoluent au même rythme.

La gouvernance fonctionne selon un autre calendrier

La réglementation illustre le même problème de rythme. Le gouvernement américain a établi un cadre volontaire pour certains modèles de pointe, comprenant notamment un accès du gouvernement aux modèles concernés avant leur mise à disposition et un processus d’évaluation comparative classifié visant à déterminer si les modèles atteignent un seuil de référence pour les systèmes de pointe. Le cadre exclut explicitement toute obligation de licence ou d’autorisation préalable. La Maison-Blanche

Parallèlement, le NIST élabore des approches pratiques pour l’identité et l’autorisation des agents, notamment l’identification, l’autorisation, l’audit, la non-répudiation et les contrôles contre l’injection de prompts.

Cette orientation est importante. Les instruments de gouvernance sont repensés autour de systèmes capables d’agir, et non plus seulement de systèmes qui génèrent de l’information. Pour les organisations, cela signifie que la supervision doit suivre non seulement les capacités du modèle, mais aussi les autorisations, les systèmes, les données et les tiers auxquels il est connecté. Ces dimensions déterminent les conséquences d’une action et les éléments nécessaires pour démontrer qu’elle est restée maîtrisée.

Les régulateurs financiers explicitent également la responsabilité des conseils d’administration. La FCA, la Banque d’Angleterre et le Trésor ont déclaré que les entreprises devaient veiller à ce que leurs conseils d’administration et leurs dirigeants disposent d’une compréhension suffisante des risques liés à l’IA de pointe pour définir l’orientation stratégique et superviser les fonctions de contrôle.

Il ne s’agit pas d’une preuve de l’échec des régulateurs. Cela reflète une réalité structurelle : la technologie évolue d’abord, tandis que les institutions formalisent ensuite leur réponse. Les conseils d’administration ne peuvent donc pas faire de la certitude réglementaire une condition préalable à l’action.

Le véritable problème pourrait être le déficit d’absorption

C’est à ce stade que la conversation sur la singularité devient une question d’entreprise. Une organisation peut avoir accès à des capacités d’IA extraordinaires tout en étant structurellement incapable de les absorber.

Une institution financière peut déployer un agent capable de réaliser des analyses complexes alors que son cadre de contrôle suppose qu’un analyste humain formule chaque recommandation importante. Un distributeur peut automatiser des décisions relatives aux prix, aux stocks et à la relation client alors que la responsabilité reste organisée autour de dirigeants humains. Une entreprise technologique peut permettre à des systèmes d’IA de générer et de tester des logiciels à une vitesse sans précédent, tandis que les contrôles de sécurité, la gestion des changements et la réponse aux incidents restent conçus autour de cycles de développement humains.

La capacité a changé. L’institution, elle, n’a pas changé.

L’expérience acquise au sein de comités d’audit et des risques, dans les services financiers, la distribution, les médias, le luxe, le sport et la technologie, confirme le même schéma : les capacités peuvent apparaître partout simultanément, tandis que les rythmes d’absorption varient considérablement selon la réglementation, les infrastructures existantes, la structure de la main-d’œuvre et la maturité des contrôles.

Cette variation est importante. Du point de vue de la gestion des risques et du courtage, c’est le moment où le risque lié à l’IA cesse d’être un livre blanc pour devenir une prime. Les assureurs, les investisseurs, les régulateurs et les conseils d’administration posent finalement des variantes de la même question : l’organisation peut-elle démontrer qu’elle comprend et maîtrise l’exposition qu’elle crée ?

La gouvernance doit-elle évoluer aussi vite que l’IA ?

La réponse évidente consiste à accélérer la gouvernance. Mais une gouvernance plus rapide n’est pas automatiquement une meilleure gouvernance.

L’objectif ne devrait peut-être pas être une gouvernance au rythme de la technologie, mais une gouvernance au rythme nécessaire pour préserver le contrôle. La bonne question pour un conseil d’administration n’est peut-être pas : « Avons-nous approuvé cette capacité d’IA ? » Elle pourrait plutôt être : « Qu’est-ce qui a changé dans le profil de capacité, d’autonomie, d’accès ou de conséquences depuis notre dernière approbation, et nos contrôles ont-ils évolué en conséquence ? »

C’est une question plus difficile, mais aussi plus utile.

L’instrument de gouvernance

La plupart des commentaires sur l’IA se terminent par une mise en garde. Les conseils d’administration ont besoin de quelque chose de plus concret : un mécanisme qui part du principe que le terrain va évoluer.

La réponse n’est pas une meilleure prédiction de la date à laquelle la singularité pourrait se produire. C’est un dispositif de gouvernance dynamique qui mesure si l’institution reste capable de contrôler ce qu’elle a déployé.

Un tel instrument devrait présenter cinq caractéristiques :

1. Des étapes de validation explicites. Les programmes d’IA devraient progresser selon des critères notés plutôt que sur la base de mises à jour narratives. Les capacités, l’autonomie, l’accès, la couverture des contrôles, la résilience et la responsabilité devraient être évalués explicitement.
2. Une reconnaissance des progrès partiels. Les organisations doivent pouvoir voir où elles s’améliorent sans confondre progrès et état de préparation.
3. Un seuil strict de validation. Si une exigence essentielle de contrôle n’est pas satisfaite, l’optimisme ne devrait pas permettre de passer outre.
4. Des jalons de décision distincts des scores. Un conseil d’administration peut accepter consciemment un risque ; c’est une pratique de gouvernance légitime. Mais le jugement doit rester visible comme tel, plutôt que d’être dissimulé derrière un chiffre.
5. Une fréquence de mise à jour plus élevée. Si les capacités peuvent changer substantiellement entre deux réunions trimestrielles du conseil, le reporting trimestriel est structurellement incapable d’offrir une visibilité suffisante. Un programme important d’IA de pointe peut nécessiter des mises à jour hebdomadaires.

Cette méthode est appliquée dans le cadre d’un programme bancaire numérique opérationnel. La leçon transposable est simple : lorsque l’environnement évolue rapidement, la gouvernance doit mesurer les mouvements plutôt que simplement les documenter.

Les conseils d’administration devraient donc pouvoir répondre à plusieurs questions : que peut faire aujourd’hui le système qu’il ne pouvait pas faire lors de la dernière revue ? Quelles décisions ou actions peut-il prendre sans intervention humaine directe ? À quels systèmes, données, identifiants et tiers peut-il accéder ? Quels contrôles interviennent avant, pendant et après ces actions ? Quels éléments démontrent que ces contrôles fonctionnent ? Qu’est-ce qui a changé dans le risque résiduel ? La capacité de l’institution à absorber ces fonctionnalités a-t-elle suivi le rythme des fonctionnalités elles-mêmes ?

Si la direction ne peut pas répondre à ces questions, le problème ne relève plus simplement de la maturité de l’IA. Il relève de la maturité de la gouvernance.

La question que les conseils d’administration devraient examiner

La singularité pourrait finalement s’avérer être une rupture de l’intelligence. Les conseils d’administration n’ont toutefois pas besoin de trancher cette question philosophique. Il existe une rupture plus immédiate qui mérite d’être gouvernée : la possibilité que les capacités des machines progressent plus vite que le contrôle institutionnel.

Cette question recouvre un débat légitime. La réponse réside peut-être dans une gouvernance plus solide. Peut-être dans une gouvernance mieux conçue. Dans certains cas, peut-être faut-il ne pas déployer une capacité tant que l’institution n’est pas en mesure de l’absorber.

Cette dernière position frustrera certains dirigeants technologiques. Elle le devrait. La gouvernance n’a pas pour objet de rendre le déploiement confortable. Mais elle ne doit pas non plus devenir un prétexte à la paralysie institutionnelle. Le défi consiste à faire la différence.

La question posée au conseil n’est donc pas : « Quand les machines nous dépasseront-elles ? » Elle est : « Quel niveau d’autonomie sommes-nous prêts à gouverner avant de savoir que notre institution est capable de l’absorber ? »

C’est une question à laquelle un conseil d’administration peut répondre. Contrairement à la date de la singularité, elle ne peut pas être reportée.

La singularité est une question sur les machines. Le déficit de gouvernance est une question qui nous concerne.