El consumo de tokens de IA podría multiplicarse 24 veces para 2030 a medida que modelos más baratos y agentes autónomos amplían el uso, según Zach Pandl, jefe de investigación de la gestora de activos Grayscale. La perspectiva, expuesta en el informe de la firma "Investing for the Compute Bottleneck", también señala que la infraestructura física necesaria para operar estos sistemas sigue estando limitada. Grayscale sostiene que la creciente demanda de capacidad de cómputo podría superar las ganancias de eficiencia, intensificando la presión sobre los centros de datos disponibles, los suministros de electricidad y las GPU.

Modelos de IA más baratos podrían ampliar el uso

La caída de costos está haciendo que la inteligencia artificial sea más accesible para aplicaciones y flujos de trabajo automatizados. El último modelo Sonnet de Anthropic ahora cuesta hasta un 30% menos por tarea, según la empresa, mientras que la competencia de modelos de pesos abiertos de menor precio —cuyos parámetros están disponibles públicamente para que cualquiera los descargue y ejecute— ejerce una presión continuamente a la baja sobre los precios de los tokens.

Los tokens miden el texto que los modelos de IA procesan y generan, y los desarrolladores pagan por su consumo. A medida que los precios caen, las empresas pueden encontrar nuevos usos para la IA que antes costaban demasiado. El informe examina cómo una inteligencia más barata podría respaldar una adopción más amplia.

Los agentes de IA podrían multiplicar la demanda de cómputo

Los "dots" presentados recientemente por OpenAI son agentes siempre activos diseñados para trabajar en torno a los objetivos de los usuarios las 24 horas del día. A diferencia de los chatbots, que responden a preguntas individuales, los agentes pueden completar múltiples pasos dentro de un solo flujo de trabajo. Preparar una reunión con un cliente, por ejemplo, podría requerir revisar notas, analizar cambios en el portafolio y redactar una agenda.

Según Grayscale, tareas de este tipo pueden consumir entre cinco y 50 veces más tokens que una interacción estándar con un chatbot, dependiendo de la complejidad. En consecuencia, los agentes podrían impulsar un crecimiento sustancial en la inferencia, el cómputo requerido para ejecutar modelos de IA. Goldman Sachs proyecta que el consumo de tokens podría multiplicarse 24 veces para 2030, atribuyendo el banco el aumento principalmente a la adopción de agentes.

La infraestructura física sigue siendo un cuello de botella de cómputo

Aunque los modelos de IA son cada vez más eficientes, la demanda total de cómputo aún puede aumentar cuando el uso crece más rápido de lo que esas ganancias pueden compensar, una dinámica que recuerda la paradoja de Jevons, la observación económica del siglo XIX de que una mayor eficiencia puede aumentar en lugar de reducir el consumo total de un recurso. Proveer la infraestructura necesaria toma tiempo. La disponibilidad de energía, los centros de datos y las GPU siguen siendo esenciales para soportar cargas de trabajo en expansión, y su oferta limitada podría restringir la velocidad a la que crece la capacidad de cómputo junto con la adopción de la IA.

Grayscale también señaló a CoreWeave, que recientemente informó haber firmado nuevos contratos a precios de cómputo más altos, como un ejemplo de la presión continua sobre los precios de la infraestructura incluso cuando el costo de las tareas individuales de IA disminuye.

El análisis de Pandl argumenta que los modelos más baratos y los agentes más capaces podrían aumentar el uso lo suficiente como para superar las ganancias de eficiencia. En este escenario, la demanda podría beneficiar a los propietarios de infraestructura física de cómputo escasa. Cómo evoluciona el equilibrio entre la caída de los costos de los tokens y el aumento de los precios de la infraestructura podrá observarse en nuevos recortes de precios modelos por parte de proveedores como Anthropic, en las divulgaciones de contratos de operadores como CoreWeave y en revisiones de estimaciones de demanda como la proyección de 24 veces de Goldman Sachs.