Nvidia busca eliminar la incertidumbre de ejecutar su marco de inferencia Dynamo en Kubernetes —la plataforma de orquestación de contenedores que se ha convertido en la capa estándar para desplegar software en la nube— con una herramienta diseñada a acortar el camino desde la configuración de un modelo hasta un punto de inferencia en funcionamiento. La herramienta, llamada NVIDIA AI Cluster Runtime (AICR), empaqueta Dynamo y sus dependencias de Kubernetes en recetas probadas que los equipos de ingeniería pueden desplegar y luego verificar.

Cómo funciona AICR

AICR aplica el concepto de recetas con versiones fijadas a los clústeres de GPU, asignando cada componente a una versión específica que Nvidia ha confirmado como compatible con los demás. Este enfoque aborda un desafío operativo persistente: los clústeres de Kubernetes acelerados por GPU contienen muchas partes interdependientes. Los controladores deben coincidir con el hardware subyacente, los recursos deben asignarse correctamente y una sola versión incompatible puede detener un despliegue completo.

El runtime organiza el trabajo en una secuencia de flujos de trabajo: captura de instantáneas, generación de recetas, renderizado del paquete, despliegue y validación. El paso de instantánea captura el estado actual de un clúster, lo que brinda a los equipos un registro preciso de su punto de partida antes de realizar cualquier cambio. La generación de recetas y el renderizado del paquete convierten luego esa información en un paquete desplegable, mientras que la validación cierra el ciclo comprobando que el resultado funciona como se espera.

Nvidia afirma que AICR admite múltiples servicios en la nube y aceleradores, respaldados por evidencia de validación firmada. En términos prácticos, los equipos reciben un registro firmado criptográficamente que demuestra que una configuración dada fue probada, en lugar de una promesa de que probablemente funcione.

Detalles de versiones y hardware

AICR alcanzó la versión 1.0 a principios de octubre de 2026, marcando su primera versión estable. La documentación para desplegar Dynamo a través del runtime se publicó alrededor del 30 al 31 de octubre de 2026.

Esa documentación incluye guías para Amazon Elastic Kubernetes Service (EKS), la oferta de Kubernetes administrado de Amazon Web Services, que se ejecuta en GPU H100 y de clase GB200. En los ejemplos de EKS basados en GPU H100, Nvidia utiliza la versión 1.4.2 del Helm chart de Dynamo Platform —Helm siendo el gestor de paquetes de Kubernetes, donde un chart empaqueta las plantillas y configuraciones necesarias para instalar una aplicación.

Se aplica un requisito destacado: los equipos que quieran usar Dynamic Resource Allocation (DRA) necesitan Kubernetes versión 1.34 o posterior. DRA es una función de Kubernetes para asignar hardware especializado, como GPU, de manera más flexible. Los clústeres que ejecuten versiones anteriores de Kubernetes no pueden usar esta función hasta que actualicen.

Guías adicionales publicadas en octubre de 2026 recorren inicios rápidos para varios modelos y subrayan la importancia de integrar el NVIDIA GPU Operator —el componente de Nvidia para automatizar la configuración de controladores y software de GPU dentro de Kubernetes— y la Dynamo Platform como parte de un despliegue de Kubernetes.

Por qué Dynamo necesita esta ayuda

Dynamo es el marco de código abierto de Nvidia para inferencia distribuida. La inferencia es la etapa de la IA en la que un modelo entrenado realmente responde preguntas, genera texto o produce imágenes para los usuarios.

El marco está diseñado para el servicio disgregado. En lugar de que una sola máquina maneje cada paso para responder una solicitud, el trabajo se divide y coordina entre trabajadores de GPU. Dynamo también ofrece enrutamiento consciente de la caché KV: la caché KV actúa como la memoria a corto plazo de un modelo sobre el texto que ya ha procesado, y enrutar las solicitudes teniendo en cuenta esa memoria evita trabajo redundante. Combinado con la orquestación multinodo, el resultado es un sistema capaz de distribuir una única operación de servicio entre muchas máquinas.

Implicaciones para los equipos de IA en producción

Los pasos de instantánea y validación atacan directamente la deriva de configuración. Capturar el estado del clúster antes del despliegue y verificarlo después brinda a los equipos una pista de auditoría, útil para la depuración y potencialmente para revisiones internas de cumplimiento.

La evidencia de validación firmada apunta en la misma dirección. Las organizaciones que necesitan demostrar que una configuración fue probada, en lugar de simplemente afirmarlo, obtienen documentación a la que pueden remitirse.

El soporte de EKS con GPU H100 y de clase GB200 brinda a los equipos en la nube de Amazon una ruta documentada, mientras que la afirmación más amplia de Nvidia sobre soporte multinube sugiere que quiere que AICR funcione dondequiera que se alquilen sus GPU, no solo dentro del ecosistema de un solo proveedor.

Dos factores merecen atención de aquí en adelante. El primero es la velocidad con la que el requisito de Kubernetes 1.34 para DRA se convierte en un obstáculo práctico, ya que muchos clústeres de producción van por detrás de las versiones más recientes, y Kubernetes lanza tres versiones menores al año. El segundo es la amplitud: la utilidad de AICR escala según la cantidad de combinaciones de nube, aceleradores y modelos que Nvidia valide, por lo que el ritmo de nuevas recetas tras la versión 1.0 dirá mucho sobre su permanencia.

Divulgación: El informe original de CryptoBriefing fue editado por Diego Almada Lopez.