Washington et la Silicon Valley sont engagées dans un nouveau différend sur le « rythme » de l'intelligence artificielle : le ralentissement délibéré du développement des modèles de pointe jusqu'à ce que les mesures de sécurité, l'alignement et la société puissent rattraper leur retard. Les critiques décrivent ce ralentissement comme un désarmement unilatéral dans la compétition avec la Chine. Ses partisans y voient la seule approche responsable pour une technologie dont les créateurs eux-mêmes alertent sur des risques catastrophiques.

Les deux camps ont toutefois adopté ce que l'on peut appeler l'« erreur du calcul-vers-le-PIE » — l'hypothèse selon laquelle chaque amélioration incrémentale des performances de l'IA se transforme immédiatement en production macroéconomique. Les technologies générales précédentes — des innovations fondatrices comme l'électricité, l'ordinateur et Internet qui ont traversé toutes les industries — ont mis des décennies à se diffuser dans l'économie et à produire des gains de productivité mesurables. L'IA suit une trajectoire similaire à un rythme accéléré, mais le débat public suppose souvent que les schémas historiques et économiques ne s'appliquent plus.

L'Amérique des entreprises est déjà des années derrière la frontière de l'IA. Les fortunes commerciales des laboratoires de pointe seront déterminées moins par la capacité brute que par la confiance et l'adoption. Une période de ralentissement coûterait donc relativement peu à l'économie, car le débat central porte sur la mauvaise contrainte.

Le scepticisme envers ce ralentissement n'est pas sans fondement. S'agit-il d'une véritable mesure de sécurité, ou d'une stratégie marketing de laboratoires de pointe et d'entreprises de cybersécurité cherchant à embellir leurs finances avant leur introduction en bourse ? Le ralentissement du développement abandonnerait-il l'avance américaine à la Chine, ou Pékin répondrait-il avec sa propre forme de ralentissement ?

Le problème de la frontière

L'IA a atteint un jalon critique de capacité. Les avertissements concernant des risques catastrophiques ou existentiels ne peuvent plus être balayés d'un revers de main, même si leurabilité à court terme reste modeste. Pourtant, en se concentrant presque exclusivement sur les modèles de pointe, les laboratoires ont mal géré à la fois leur communication publique et la question de la confiance.

Plus de 100 conversations récentes avec des PDG, des responsables politiques et des scientifiques de l'IA, menées pour le livre à venir When Machines Act, ont convaincu les auteurs que le débat sur le rythme a perdu de vue les principes fondamentaux. Une distinction clé a été obscurcie : la recherche avancée que les laboratoires mènent en coulisses n'est pas la même que les produits qu'ils mettent à disposition du public.

La question la plus pertinente est peut-être de savoir si les laboratoires doivent réellement ralentir leurs recherches, ou s'ils doivent simplement mieux faire pour garantir que leurs produits commerciaux soient sûrs à l'usage.

Le problème de l'alignement

Depuis la sortie de ChatGPT en 2022, les dirigeants d'entreprises se sont mobilisés avec une rapidité rarement vue dans l'histoire commerciale moderne. Mais la structure de la technologie d'entreprise rend l'absorption économique généralisée intrinsèquement lente. Les silos de données fragmentés, les systèmes ERP hérités, les exigences strictes de conformité et la mauvaise hygiène des données font tous obstacle.

Les chocs budgétaires causés par le « tokenmaxxing » débridé — la pratique consistant à faire passer des tâches routinières par des modèles bien plus grands que nécessaire — ont également montré que de nombreux flux de travail quotidiens des entreprises nécessitent des modèles bien plus simples. Très peu de tâches dans une entreprise moyenne du Fortune 500 exigent un système de pointe. Le ralentissement ne nuirait donc ni sensiblement à la production économique ni aux revenus des laboratoires, car les entreprises ont besoin de temps pour absorber les capacités déjà disponibles.

Plus des deux tiers des entreprises performantes identifient les données comme le principal obstacle à la mise en œuvre de l'IA, selon McKinsey. Cet obstacle s'est révélé persistant même à mesure que les modèles progressaient rapidement. Seules 7 % des entreprises décrivent leurs données comme « totalement prêtes » pour l'IA, moins d'un quart ont une stratégie de données, et 63 % n'ont pas de gestion de données adaptée à l'IA ou ne savent pas si elles en ont une, selon un rapport de Cloudera et Harvard Business Review Analytic Services et un communiqué de Gartner.

L'erreur du calcul-vers-le-PIE

Comme l'a souligné le associé directeur de McKinsey Asutosh Padhi lors d'une intervention avec Fareed Zakaria, la disponibilité technique est fondamentalement différente de la transformation économique. Les technologies générales ont historiquement nécessité des décennies pour réorganiser les flux de travail et générer de larges gains de productivité.

L'électricité a mis 75 ans à élever la productivité dans l'ensemble de l'économie. Les ordinateurs ont nécessité 50 ans, tandis qu'Internet et les appareils mobiles en ont pris 25. Les modèles d'IA sont peut-être prêts, mais la restructuration organisationnelle nécessaire pour les utiliser à grande échelle prendra un temps considérable. Dans une enquête auprès du monde des affaires, McKinsey a constaté que seules 6 % des entreprises rapportaient un impact « significatif » et une modeste attribution de bénéfices. Le rapport State of AI fournit un contexte supplémentaire sur l'adoption en entreprise.

Les entreprises se concentrent sur des tâches d'automatisation à fort rendement et à faible risque que des modèles vieux d'une ou deux générations peuvent déjà accomplir. Un ancien PDG de Wall Street très respecté a déclaré que ces systèmes fonctionneraient aux côtés des systèmes hérités pendant des années, permettant aux entreprises de vérifier qu'ils fonctionnent correctement et qu'aucun risque réglementaire n'est absorbé à leur insu.

L'Amérique des entreprises déterminera donc elle-même le rythme du déploiement, indépendamment des décisions des laboratoires de pointe. Aucune entreprise, dans aucun secteur, ne devrait commercialiser un produit qu'elle juge dangereux, et l'IA ne devrait pas être traitée différemment.

Une dynamique similaire se dessine sur le marché des semi-conducteurs. Les puces de génération antérieure, initialement écartées dans la course aux accélérateurs les plus récents, connaissent une seconde vie comme chevaux de trait pour les charges de travail d'inférence pratiques — le fonctionnement quotidien des modèles déployés plutôt que leur entraînement — qui représentent une grande partie de la demande des entreprises.

Miro Dimitrov, fondateur et PDG de Growth Protocol, a déclaré lors du Yale CEO Caucus de la semaine précédente que les architectures neuro-symboliques avaient réduit les coûts d'inférence d'environ 80 fois dans des déploiements réels chez des clients. Les économies provenaient principalement du déplacement des charges de travail loin des unités de traitement graphique extrêmement coûteuses vers des unités centrales de traitement d'entreprise standards.

Les trois phases de l'adoption de l'IA

L'adoption en entreprise peut se comprendre en trois phases, chacune définie par la quantité de travail qu'une entreprise peut déléguer de manière responsable. Les progrès sont limités par la préparation des données et le niveau de confiance que les systèmes ont acquis.

La première phase est l'assistance. Elle consiste en copilotes prêts à l'emploi construits sur des plateformes d'entreprise telles que Salesforce. Ces outils connectent les données entre les applications existantes et aident les employés à travailler plus rapidement sans re-architecturage important. Le retour sur investissement peut arriver rapidement, tandis que le risque reste limité car un humain continue d'effectuer une grande partie du travail.

La deuxième phase est l'orchestration. Elle implique des flux de travail agentiques — des systèmes d'IA qui planifient et exécutent des tâches en plusieurs étapes pour le compte d'un travailleur — qui nécessitent des investissements importants dans les données propriétaires et dans la connexion de lacs de données distants qui n'ont jamais été conçus pour fonctionner ensemble. Un humain reste dans la boucle pour approuver chaque étape conséquente.

La troisième phase est l'autonomie, dans laquelle des opérations agentiques de bout en bout s'exécutent sur des systèmes parfaitement interconnectés tandis que les humains supervisent par exception.

La récompense potentielle augmente à chaque phase, mais tout comme les risques associés et la confiance requise. C'est pourquoi le PDG moyen du Fortune 500 reste dans la phase d'assistance tout en réalisant des investissements initiaux substantiels pour se préparer à l'orchestration. Les phases n'avanceront pas non plus de manière uniforme dans toute l'entreprise. La plupart des entreprises géreront un portefeuille couvrant plusieurs phases, testant l'orchestration dans certains services en pointe pendant que le reste de l'organisation se familiarise avec l'assistance de base.

Les trois phases reposent sur la confiance des PDG que l'IA respectera les du règlement intérieur, obéira à la loi et maintiendra un socle de valeurs et de jugement humains. Les investisseurs, commentateurs des médias et marchés se méprennent donc sur la manière dont la valeur des entreprises est créée lorsqu'ils craignent que le ralentissement pour l'alignement de l'IA n'entrave les progrès des modèles de pointe.

Le débat est encore compliqué par des promesses et des avertissements vagues autour de l'« AGI », ou intelligence artificielle générale — des systèmes capables d'égaler ou de dépasser les performances humaines sur la plupart des tâches cognitives — ainsi que par les opportunités et les risques catastrophiques associés à l'atteinte de la « singularité ». L'alignement est lui-même subjectif, chaque laboratoire et chaque individu définissant le terme différemment. La réponse à toute référence à l'alignement est une autre question : l'alignement sur quoi ?

Si les technologies d'IA sont destinées à automatiser des tâches humaines, elles devraient satisfaire aux mêmes normes de valeurs, de jugement et de conduite morale que l'on attend d'un employé actuel ou potentiel. Si les modèles de pointe les plus avancés ne peuvent pas satisfaire à ces normes en phase de test, ils ne sont pas prêts à être commercialisés. Ce principe est cohérent avec les lois que les États-Unis maintiennent depuis longtemps pour protéger les consommateurs contre les produits dangereux.

L'ancienne présidente de la Federal Trade Commission Lina Khan a fait un constat similaire sur X : « Il existe un ensemble étendu de lois régissant les produits dangereux et défectueux… la mise à disposition de modèles ou d'agents d'IA non vérifiés peut violer les lois sur la protection des consommateurs. Expédier des outils d'IA défectueux sans mettre en œuvre des mesures adéquates pour détecter et arrêter les agents d'IA défaillants peut constituer un acte ou une pratique “déloyale ou trompeuse” au sens du FTC Act (et des lois étatiques analogues). » La publication est disponible à l'adresse https://x.com/linamkhan/status/2099204390548639960.

Ces lois rendent les entreprises responsables des dommages causés aux consommateurs, aux employés, aux investisseurs, aux patients et aux concurrents, ainsi qu'aux marchés et systèmes financiers dont ils dépendent.

Amérique, Chine, vitesse et confiance

Quelle que soit la position adoptée dans le débat sur la distillation des modèles d'IA par la Chine — la technique consistant à entraîner des modèles plus petits à reproduire les sorties de grands systèmes de pointe —, la Chine dispose désormais de systèmes rivalisant avec les modèles de pointe disponibles sur le marché. Le Parti communiste chinois a également signalé qu'il orientait son attention vers la diffusion de l'IA dans l'ensemble de l'économie plutôt que de continuer à repousser la frontière.

Les laboratoires de pointe se disputent donc sur deux fronts : l'un pour atteindre l'« AGI » ou la « superintelligence », l'autre pour conquérir le portefeuille des clients. Leurs clients les plus établis, principalement des entreprises du Fortune 500, peuvent attester qu'il est extrêmement difficile de reconquérir un client une fois la décision d'achat prise. La Chine comprend bien cette dynamique, qui a contribué à sa victoire dans les télécommunications mondiales — une course que les États-Unis ont largement perdue.

Le Parti communiste chinois a également exprimé de vives préoccupations concernant l'alignement. La version domestique de l'alignement prônée par Pékin met l'accent sur le contrôle de l'État, l'orthodoxie du parti et la cohérence avec les récits officiels. L'alignement occidental se concentre davantage sur la fiabilité fiduciaire, la sécurité des consommateurs et la responsabilité des produits. Sous ce fossé idéologique se une réalité commerciale identique : des agents imprévisibles et « hallucinants » qui ne respectent pas les règles organisationnelles, ne font preuve d'aucun jugement solide ni de garde-fous institutionnels ne peuvent être confiés à des flux de travail critiques ou considérés comme un moteur de croissance économique durable.

L'administration Trump devrait continuer à rechercher des opportunités de collaboration et de coordination avec le président Xi afin de garantir que l'IA ne provoque pas de destruction massive ou de catastrophe, qu'elle soit intentionnelle ou accidentelle. Trump évoquera-t-il la question ? C'est une autre histoire.

Lors du CEO Caucus, 93 des quelque 100 PDG interrogés ont déclaré ne pas croire que le président ait eu raison de qualifier d'« imposture » les avertissements sur les dangers de l'IA. Près de 90 % ont déclaré que le président devrait insister sur la nécessité de lignes directrices communes de sécurité en matière d'IA avec la Chine lors de la visite d'État, tandis que près de trois quarts ne s'attendaient pas à ce qu'il le fasse. Selon Axios, les discussions préparatoires entre le secrétaire au Trésor Bessent et son homologue chinois pourraient bientôt donner tort à ces quelque 75 dirigeants d'entreprise, à leur grande joie.

Un intervalle de ralentissement ne serait ni des vacances passives ni un cessez-le-feu économique. Ce serait une période active de durcissement défensif. Washington et Pékin ont besoin de temps pour renforcer les infrastructures critiques contre les exploits des agents autonomes avant de débloquer la prochaine génération de capacités de pointe.

L'alignement humain ne représente que la moitié du défi. Pendant une telle période, la priorité immédiate devrait être de renforcer les institutions qui soutiennent la société. Les systèmes financiers, de santé et d'éducation devraient être testés pour détecter leurs vulnérabilités par les modèles les plus avancés, comme Anthropic l'a démontré grâce à son déploiement restreint de Mythos dans le cadre du Project Glasswing. Ces modèles ont percé les défenses grâce à une ingéniosité d'ingénierie impressionnante, mais leurs exploits n'ont réussi qu'en raison des faiblesses systémiques des infrastructures numériques des entreprises.

Les laboratoires de pointe peuvent croire qu'ils courent une seule course vers la superintelligence. La course qui déterminera pourtant leurs fortunes commerciales est le concours plus lent visant à gagner la confiance des entreprises, des régulateurs et des citoyens qui devront vivre avec ce qu'ils construisent. La vitesse fait peut-être les gros titres, mais c'est la confiance qui gagne les clients.

Cette course est un marathon, pas un sprint. La première moitié d'une course de fond sert à se ménager, la seconde à dépasser. À chaque révolution technologique, des chemins de fer à Internet, les plus grandes fortunes sont allées à ceux qui ont compris qu'une frontière n'a guère de valeur tant que les colons ne sont pas arrivés.

Les opinions exprimées dans les tribunes de Fortune.com sont exclusivement celles de leurs auteurs et ne reflètent pas nécessairement les opinions et convictions de Fortune. Ce rapport a été actualisé avec des commentaires supplémentaires du co-auteur David Siegel. Cette histoire a été publiée à l'origine sur Fortune.com : https://fortune.com/202609/22/ai-pacing-debate-how-fast-slow-wrong-debate-frontier