L'intelligenza artificiale aziendale sta passando dalla conversazione all'esecuzione, mentre i sistemi automatizzati consumano una quantità di capacità dei modelli di gran lunga superiore rispetto ai normali utenti umani.

Al 10 agosto OpenRouter aveva registrato circa 7,3 mila miliardi di token agentic su una media a sette giorni, un livello circa 14 volte superiore a quello osservato all'inizio di febbraio. Nello stesso periodo, l'utilizzo generato dagli umani ha raggiunto circa 1,4 mila miliardi di token, in aumento di 2,8 volte rispetto a inizio febbraio. Ne risulta che gli agenti IA consumano oltre cinque volte più token degli umani nel traffico instradato attraverso la piattaforma.

I token — le porzioni di testo che i modelli linguistici leggono e generano — sono anche l'unità con cui la maggior parte dei provider misura e fattura l'utilizzo delle API, quindi il rapporto costituisce una misura diretta di dove si dirige il calcolo di inferenza. OpenRouter, un servizio di routing che inoltra le richieste degli sviluppatori a modelli di diversi provider, distingue l'attività agentic tramite segnali come le chiamate agli strumenti, i turni di conversazione e i pattern temporali. I dati riflettono il traffico su OpenRouter e non l'intero mercato dell'IA generativa, ma indicano con quale rapidità stanno scalando i carichi di lavoro automatizzati. A differenza di un chatbot che risponde a un singolo prompt, gli agenti IA possono esaminare informazioni, chiamare strumenti, testare gli output, rivedere i passaggi e ripetere azioni prima di completare il lavoro.

L'IA aziendale passa dalla chat ai flussi di lavoro automatizzati

Il report Enterprise Signals di OpenAI evidenzia la stessa transizione all'interno delle aziende, in particolare tra gli utenti più intensivi. Le aziende all'avanguardia (frontier firms), definite come il 10% dei principali utilizzatori aziendali di IA, hanno generato 8,3 volte più token di output per utente attivo rispetto alle aziende tipiche.

A gennaio quel divario era di 2,6 volte, a riprova di una differenza crescente tra l'adozione aziendale ordinaria e gli utenti più intensivi. Entro giugno, Codex, l'agente di OpenAI per lo sviluppo software, ha prodotto il 64% dei token di output combinati di Codex e ChatGPT tra i clienti enterprise.

Da febbraio, gli utenti attivi settimanali di Codex erano aumentati di 108 volte nel settore legale, rispetto a 41 volte nelle vendite e nel recruiting. Questo mix suggerisce che l'uso aziendale si sta estendendo oltre la chat verso il coding, la creazione di documenti, la ricerca e altri flussi di lavoro multi-step.

OpenAI ha inoltre riportato che il 21% degli utenti attivi delle aziende all'avanguardia utilizzava i plugin su base settimanale, rispetto al 9% delle aziende tipiche. Questa differenza rafforza lo spostamento verso sistemi in grado di utilizzare strumenti, creare file e completare attività anziché limitarsi a rispondere a domande.

Codex, plugin e caching guidano il passaggio oltre la chat

Andreessen Horowitz, citando i dati di OpenRouter, ha affermato che oltre l'85% dell'utilizzo di token agentic deriva ora da prompt in cache. Il prompt caching consente ai sistemi di riutilizzare il contesto già elaborato invece di ricalcolare input identici durante le chiamate ripetute.

Secondo OpenAI, il caching può ridurre latenza e costi di input, rendendo più economici da gestire i carichi di lavoro a contesto ripetuto. Poiché l'inferenza viene generalmente fatturata a token, riutilizzare il contesto invece di ricalcolarlo incide direttamente sul costo delle lunghe sequenze di chiamate ripetitive eseguite dagli agenti. Tuttavia, questi carichi di lavoro richiedono comunque infrastrutture in grado di archiviare e riutilizzare rapidamente contesti di grandi dimensioni accanto alle GPU che gestiscono l'inferenza.

Ciò accresce l'importanza della capacità di memoria e della larghezza di banda man mano che le aziende delegano incarichi più complessi ai sistemi automatizzati. La transizione rappresenta inoltre una prova per il software tradizionale di automazione dei flussi di lavoro.

A16z ha sostenuto che la crescente adozione degli agenti potrebbe mettere sotto pressione i prodotti costruiti attorno a passaggi di automazione fissi, man mano che gli utenti adottano sistemi in grado di ragionare sui compiti. Ciononostante, le sole variazioni del traffico web non provano uno spiazzamento, mentre Zapier, Make ed n8n — piattaforme che collegano le app aziendali per automatizzare attività multi-step — stanno anch'esse aggiungendo funzionalità di IA.

Nel complesso, gli agenti IA stanno generando una maggiore domanda di token man mano che il software aziendale esegue catene di lavoro più lunghe per conto degli utenti. Con l'espansione di questo schema, l'IA aziendale sarà sempre meno definita dal volume di chat e sempre più dalla quantità di lavoro delegato al software, e le metriche già osservabili — la quota di traffico token degli agenti, il divario di output delle aziende all'avanguardia e la quota di prompt in cache — saranno quelle che mostreranno fin dove arriverà questa trasformazione.