L'intelligence artificielle d'entreprise passe de la conversation à l'exécution, alors que les systèmes automatisés consomment bien plus de capacité de modèle que les utilisateurs humains ordinaires.

OpenRouter a enregistré environ 7 300 milliards de tokens agentiels en moyenne sur sept jours au 10 août, soit environ 14 fois le niveau observé début février. L'usage piloté par des humains a atteint environ 1 400 milliards de tokens sur la même période, multiplié par 2,8 depuis début février. Les agents d'IA consommaient ainsi plus de cinq fois plus de tokens que les humains sur le trafic acheminé via la plateforme.

Les tokens — les fragments de texte que les modèles de langage lisent et génèrent — sont aussi l'unité avec laquelle la plupart des fournisseurs mesurent et facturent l'usage des API ; ce ratio mesure donc directement là où va la puissance de calcul d'inférence. OpenRouter, un service de routage qui envoie les requêtes des développeurs vers des modèles de plusieurs fournisseurs, distingue l'activité agentielle à l'aide de signaux tels que les appels d'outils, les tours de conversation et les schémas temporels. Ces chiffres reflètent le trafic d'OpenRouter plutôt que l'ensemble du marché de l'IA générative, mais ils indiquent la rapidité avec laquelle les charges de travail automatisées prennent de l'ampleur. Contrairement à un chatbot qui répond à un seul prompt, les agents d'IA peuvent inspecter des informations, appeler des outils, tester des résultats, réviser des étapes et répéter des actions avant d'achever leur travail.

L'IA d'entreprise passe du chat aux flux de travail automatisés

Le rapport Enterprise Signals d'OpenAI fait état de la même transition au sein des entreprises, en particulier parmi les utilisateurs les plus intensifs. Les entreprises dites « frontier », définies comme les 10 % d'utilisateurs d'IA d'entreprise les plus avancés, ont généré 8,3 fois plus de tokens de sortie par utilisateur actif que les entreprises classiques.

Cet écart était de 2,6 en janvier, ce qui témoigne d'une différence croissante entre l'adoption ordinaire en entreprise et les utilisateurs les plus intensifs. En juin, Codex, l'agent d'OpenAI dédié au développement logiciel, a produit 64 % des tokens de sortie combinés de Codex et ChatGPT parmi les clients entreprises.

Le nombre d'utilisateurs actifs hebdomadaires de Codex avait été multiplié par 108 dans le secteur juridique depuis février, contre 41 dans les ventes et le recrutement. Cette répartition suggère que l'usage en entreprise s'étend au-delà du chat vers le codage, la création de documents, la recherche et d'autres flux de travail à étapes multiples.

OpenAI a également indiqué que 21 % des utilisateurs actifs des entreprises frontier utilisaient les Plugins chaque semaine, contre 9 % dans les entreprises classiques. Cette différence renforce le passage vers des systèmes capables d'utiliser des outils, de créer des fichiers et d'accomplir des tâches plutôt que de simplement répondre à des questions.

Codex, Plugins et la mise en cache font avancer le changement au-delà du chat

Andreessen Horowitz, citant des données d'OpenRouter, a indiqué que plus de 85 % de l'usage des tokens agentiels provient désormais de prompts mis en cache. La mise en cache des prompts permet aux systèmes de réutiliser un contexte déjà traité au lieu de recalculer une entrée identique lors d'appels répétés.

Selon OpenAI, la mise en cache peut réduire la latence et les coûts d'entrée, rendant les charges de travail à contexte répété moins coûteuses à exploiter. L'inférence étant généralement facturée au token, réutiliser le contexte au lieu de le recalculer influence directement le coût des longues séquences d'appels répétitives exécutées par les agents. Ces charges de travail nécessitent toutefois une infrastructure capable de stocker et de réutiliser rapidement de grands contextes, aux côtés des GPU qui gèrent l'inférence.

Cela accroît l'importance de la capacité mémoire et de la bande passante à mesure que les entreprises délèguent des tâches plus complexes à des systèmes automatisés. Cette évolution met aussi à l'épreuve les logiciels traditionnels de flux de travail.

A16z a soutenu que l'adoption croissante des agents pourrait mettre sous pression les produits construits autour d'étapes d'automatisation fixes, à mesure que les utilisateurs adoptent des systèmes capables de raisonner sur des tâches. Cela dit, les seules variations de trafic web ne prouvent pas un déplacement, tandis que Zapier, Make et n8n — des plateformes qui connectent des applications métier pour automatiser des tâches à étapes multiples — ajoutent elles aussi des fonctionnalités d'IA.

Dans l'ensemble, les agents d'IA génèrent une demande de tokens croissante à mesure que les logiciels d'entreprise exécutent de plus longues chaînes de travail au nom des utilisateurs. À mesure que ce schéma s'étend, l'IA d'entreprise se définit moins par le volume de chat et davantage par la quantité de travail déléguée aux logiciels ; et les indicateurs déjà visibles — la part des agents dans le trafic de tokens, l'écart de production des entreprises frontier et la part des prompts mis en cache — sont ceux qui montreront jusqu'où cela ira.