Due mesi fa, i modelli AI open-weight erano un attore minoritario nell'infrastruttura di Vercel. Ora sono in testa per volume.

Il CEO di Vercel Guillermo Rauch ha dichiarato il 22 agosto che i modelli open-weight rappresentavano il 62% di tutti i token elaborati tramite l'AI Gateway di Vercel, in aumento rispetto al 28,4% del 24 giugno.

Crescita rapida nella quota di token

Ad aprile i modelli open-weight rappresentavano appena l'11% del volume di token di Vercel. A giugno la cifra era salita al 29%. Alla fine di agosto aveva superato il 62%.

L'AI Gateway di Vercel funge da livello di routing e gestione del traffico per le applicazioni basate su AI, quindi le cifre riflettono carichi di lavoro di produzione di aziende reali anziché test benchmark o condizioni di laboratorio.

Questo cambiamento è significativo perché la quota di token e la spesa in dollari non procedono di pari passo. I modelli open-weight possono funzionare a circa un decimo del prezzo dei loro equivalenti closed-source, il che aiuta a spiegare perché le imprese possano instradare verso di essi volumi maggiori di attività routine o ad alto throughput, riservando comunque i modelli premium ai carichi di lavoro in cui vale la pena sostenere il costo aggiuntivo.

La spesa rimane concentrata

Anche con i modelli open-weight al 62% del volume di token, questi non rappresentano il 62% della spesa.

I modelli closed di Anthropic hanno catturato tra il 61% e il 65% della spesa totale sul gateway nei recenti periodi di reportistica. Claude elabora una minoranza di token generando però la maggioranza dei ricavi.

DeepSeek è salito in cima, o vicino alla cima, della classifica di Vercel per volume di token, superando Google nella quota di elaborazione.

Tendenza più ampia nell'adozione aziendale

Grandi aziende, tra cui AT&T e Coinbase, sono state segnalate tra quelle che puntano su strategie di riduzione dei costi nell'implementazione dell'AI, in linea con i pattern di instradamento dei carichi di lavoro riflessi nei dati di Vercel. Per gli sviluppatori e gli operatori di piattaforme, la tendenza suggerisce che la scelta dei modelli sta diventando sempre più specifica per carico di lavoro: il volume può spostarsi verso sistemi open-weight più economici anche mentre la spesa rimane concentrata in un insieme più ristretto di modelli a prezzo più elevato.