Hace dos meses, los modelos de IA de peso abierto eran un actor menor en la infraestructura de Vercel. Ahora lideran por volumen.

El CEO de Vercel, Guillermo Rauch, dijo el 22 de agosto que los modelos de peso abierto representaron el 62% de todos los tokens procesados a través de AI Gateway de Vercel, frente al 28.4% del 24 de junio.

Rápido crecimiento en la participación de tokens

Los modelos de peso abierto representaban apenas el 11% del volumen de tokens de Vercel en abril. En junio, esa cifra había subido al 29%. A finales de agosto, había superado el 62%.

AI Gateway de Vercel funciona como una capa de enrutamiento y gestión de tráfico para aplicaciones impulsadas por IA, por lo que las cifras reflejan cargas de trabajo reales de producción de empresas reales, y no pruebas de referencia ni condiciones de laboratorio.

El cambio es importante porque la participación en tokens y el gasto en dólares no se mueven al mismo ritmo. Los modelos de peso abierto pueden operar a un costo aproximado de una décima parte del de sus equivalentes de código cerrado, lo que ayuda a explicar por qué las empresas pueden enrutar hacia ellos mayores volúmenes de tareas rutinarias o de alto rendimiento, mientras reservan los modelos premium para cargas de trabajo en las que valen el costo adicional.

El gasto sigue concentrado

Incluso con los modelos de peso abierto representando el 62% del volumen de tokens, no representan el 62% del gasto.

Los modelos cerrados de Anthropic captaron entre el 61% y el 65% del gasto total en el gateway en períodos recientes de reporte. Claude procesa una minoría de los tokens mientras genera una mayoría de los ingresos.

DeepSeek ha subido al primer lugar, o cerca de él, en la clasificación de volumen de tokens de Vercel, superando a Google en participación de procesamiento.

Qué significa esto para la implementación de IA en general

Grandes empresas, entre ellas AT&T y Coinbase, han sido mencionadas entre las que priorizan estrategias de reducción de costos en la implementación de IA, lo que coincide con los patrones de enrutamiento de cargas de trabajo que muestran los datos de Vercel. Para desarrolladores y operadores de plataformas, la tendencia sugiere que la selección de modelos se está volviendo cada vez más específica según la carga de trabajo: el volumen puede desplazarse hacia sistemas de peso abierto más baratos incluso cuando el gasto sigue concentrado en un conjunto más reducido de modelos de mayor precio.