Il y a deux mois, les modèles d’IA open-weight n’étaient qu’un acteur mineur de l’infrastructure de Vercel. Désormais, ils dominent en volume.

Le PDG de Vercel, Guillermo Rauch, a indiqué le 22 août que les modèles open-weight représentaient 62 % de tous les tokens traités via l’AI Gateway de Vercel, contre 28,4 % le 24 juin.

Croissance rapide de la part de tokens

Les modèles open-weight ne représentaient que 11 % du volume de tokens de Vercel en avril. En juin, cette part était montée à 29 %. Fin août, elle avait dépassé 62 %.

L’AI Gateway de Vercel sert de couche de routage et de gestion du trafic pour les applications alimentées par l’IA, de sorte que ces chiffres reflètent des charges de travail de production provenant de vraies entreprises, et non des tests de benchmark ou des conditions de laboratoire.

Ce changement s’explique surtout par le coût. Les modèles open-weight peuvent fonctionner à un prix d’environ dix fois inférieur à celui de leurs équivalents fermés, et les entreprises ont compris que toutes les tâches d’IA ne nécessitent pas un modèle premium pour être réalisées.

Le paradoxe des dépenses

Malgré une part de 62 % du volume de tokens, les modèles open-weight ne représentent pas 62 % des dépenses.

Les modèles fermés d’Anthropic ont capté entre 61 % et 65 % des dépenses totales sur la passerelle lors des dernières périodes de reporting. Claude traite une minorité des tokens tout en générant une majorité des revenus.

DeepSeek est monté au sommet, ou presque, du classement du volume de tokens de Vercel, dépassant Google en part de traitement.

Ce que cela signifie plus largement pour le déploiement de l’IA

De grandes entreprises, notamment AT&T et Coinbase, ont été citées parmi celles qui mettent l’accent sur des stratégies de réduction des coûts dans le déploiement de l’IA, ce qui correspond exactement au type de routage des charges de travail décrit par les données de Vercel.