Nvidia 正致力于消除在 Kubernetes 上运行其 Dynamo 推理框架的不确定性——Kubernetes 是已成为云软件部署标准层的容器编排平台——所借助的工具旨在缩短从模型配置到可用推理端点的路径。该工具名为 NVIDIA AI Cluster Runtime（AICR），它将 Dynamo 及其 Kubernetes 依赖打包为经过测试的配方，工程团队可以部署并进行验证。

AICR 的工作原理

AICR 将版本锁定配方的概念应用于 GPU 集群，把每个组件固定到 Nvidia 已确认可与其他组件协同工作的特定版本。这种方法解决了一个长期存在的运维难题：GPU 加速的 Kubernetes 集群包含许多相互依赖的部分。驱动程序必须与底层硬件匹配，资源必须正确分配，而一个版本不匹配就可能使整个部署停滞。

该运行时将工作组织成一系列工作流：快照、配方生成、捆绑包渲染、部署和验证。快照步骤捕获集群的当前状态，为团队提供进行任何更改之前起点的精确记录。配方生成和捆绑包渲染随后将这些信息转化为可部署的软件包，而验证环节则通过检查结果是否符合预期来形成闭环。

Nvidia 表示，AICR 支持多种云服务和加速器，并有签名验证凭据作为支撑。实际而言，团队获得的是一份经过加密签名的记录，证明给定配置已通过测试，而不是一个“大概率可用”的承诺。

版本与硬件细节

AICR 于 2026 年 10 月初达到 1.0 版本，标志着其首个稳定版发布。通过该运行时部署 Dynamo 的文档随后于 2026 年 10 月 30 日至 31 日左右发布。

该文档包括针对 Amazon 的弹性 Kubernetes 服务（EKS）——Amazon Web Services 的托管 Kubernetes 产品——在 H100 和 GB200 级 GPU 上运行的指南。在围绕 H100 GPU 构建的 EKS 示例中，Nvidia 使用 1.4.2 版的 Dynamo Platform Helm chart——Helm 是 Kubernetes 的包管理器，chart 则捆绑了安装应用程序所需的模板和设置。

一个值得注意的要求是：希望使用动态资源分配（DRA）的团队需要 Kubernetes 1.34 或更高版本。DRA 是 Kubernetes 的一项功能，用于更灵活地分配 GPU 等专用硬件。运行较旧 Kubernetes 版本的集群在升级之前无法使用该功能。

2026 年 10 月发布的其他指南介绍了各种模型的快速入门，并强调将 NVIDIA GPU Operator——Nvidia 用于在 Kubernetes 内自动完成 GPU 驱动和软件设置安装的组件——和 Dynamo Platform 作为 Kubernetes 部署一部分进行集成的重要性。

为什么 Dynamo 需要这种帮助

Dynamo 是 Nvidia 用于分布式推理的开源框架。推理是 AI 中训练后的模型实际回答问题、生成文本或为用户生成图像的阶段。

该框架专为 disaggregated serving（分离式服务）而构建。它不再由一台机器完成回答请求的每一个步骤，而是将工作拆分并在多个 GPU 工作节点之间协调。Dynamo 还提供 KV 缓存感知路由：KV 缓存本质上是模型对已处理文本的短期记忆，在路由请求时考虑这一记忆可以避免冗余工作。结合多节点编排，其结果是一个能够将单一服务操作扩展到多台机器的系统。

对生产环境 AI 团队的意义

快照和验证步骤直接针对配置漂移。在部署前捕获集群状态并在部署后进行检查，为团队提供了审计轨迹，这对于调试以及潜在的内部合规审查都很有用。

签名验证凭据也指向同一方向。需要证明某配置已通过测试而非仅仅口头断言的组织，可以获得可引用的文档。

对 EKS 上 H100 和 GB200 级 GPU 的支持，为使用 Amazon 云的团队提供了有据可依的路径，而 Nvidia 关于多云支持的更广泛声明表明，它希望 AICR 能在其 GPU 被租用的任何地方运行，而不仅限于单一提供商的生态系统。

接下来有两个因素值得关注。第一个是针对 DRA 的 Kubernetes 1.34 要求多快会成为实际障碍，因为许多生产集群落后于最新版本，而 Kubernetes 每年发布三个次要版本。第二个是广度：AICR 的实用性随着 Nvidia 验证的云、加速器和模型组合数量而扩展，因此 1.0 版发布后新配方的推出速度将在很大程度上决定其持久力。

披露：CryptoBriefing 原始报道由 Diego Almada Lopez 编辑。