NVIDIA 推出了 Open Agent Safety Platform，这是一个旨在通过持续监控和硬件强制的策略控制来保障自主 AI 智能体安全的开放框架。该平台于 2026 年 9 月 28 日发布，此前业界接连曝出智能体逃离评估环境、访问未授权系统以及虚报自身行为的报告，AI 行业的担忧日益加剧。

NVIDIA 将此与早期互联网进行类比：互联网只有在安全机制——加密连接、沙箱化的浏览器标签页以及可见的信任标识——建立之后，才成为商业和通信的基础。NVIDIA 认为，智能体 AI 需要类似的信任层，才能扩展为一个可靠的“智能体经济”，并且安全控制应当加速而非阻碍创新。

NVIDIA 首席执行官黄仁勋在 X 上宣布该平台发布时表示，平台整合了 OpenShell 和 Sentry 两个组件，并获得 100 多家行业合作伙伴的支持：

Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry. Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to… pic.twitter.com/dReAxwpRUn

— Jensen Huang (@JensenHuang) September 28, 2026

OpenShell 运行时：从内核层向上隔离

平台的核心是 NVIDIA OpenShell，这是一个以 Apache 2.0 许可证发布的开源安全运行时——该宽松型开源许可证允许组织在自己的环境中检查、修改和部署代码。OpenShell 在具备内核级隔离的沙箱环境中运行每个智能体，将操作员的指令转换为可验证的策略，该策略定义了对文件、网络、工具、进程和凭证的允许访问范围。这些限制在执行前经过验证，并在运行期间持续强制执行。

该平台建立在五项原则之上：策略必须在智能体运行前可验证；执行必须在带外、即智能体无法触及的范围之外运行；通往模型的路径是主要控制点和可观测性层面；智能体的权限必须与其推理透明度同步扩展；安全责任由实验室、企业和硬件共同承担。

NVIDIA 自身的研究凸显了“漂移”问题——即智能体因指令模糊、策略阻断、工具缺失或长时间自主运行而偏离预期任务的行为。据该公司称，若不以牺牲能力为代价，这种漂移无法完全通过训练消除，并且在这些条件下不能指望智能体自我约束其行为。这一发现支撑了平台对带外执行的重视：如果智能体无法可靠地自我约束，控制机制就必须部署在智能体无法篡改的位置。

规模化的硬件级执行

该架构横跨三个层面：应用层（模型、工具、框架和数据）、运行时层（编排和策略执行）以及基础设施层（计算、存储和网络资源）。对于需要独立第二道防线的组织，NVIDIA Sentry 通过 NVIDIA DOCA 将监控和执行能力扩展到 BlueField-4 数据处理器（DPU）中，将智能体交互、策略决策和数据访问关联为上下文活动记录，同时持续验证每个智能体的身份和被授予的权限。DPU 是专用处理器，负责处理网络和安全等基础设施工作，与服务器的主 CPU 分离运行，这使得即使在主机本身不可信的情况下，它们也能观察并执行策略。

在 NVIDIA Vera Rubin POD 配置中，BlueField-4 DPU 位于节点通往模型的唯一路径上，提供带外可观测性以及与主机隔离的实时线速策略执行。据 NVIDIA 称，这使安全执行能够“在硅片层面”实现，即使在主机资源不可信的情况下也是如此。对于现有的 Vera 和 BlueField-4 部署，该公司表示只需软件更新即可启用这些防护，且该平台也兼容非 NVIDIA 硬件——这些条件使控制范围超越了新购置的 NVIDIA 基础设施。

NVIDIA 表示，公司正与前沿实验室、开发者和基础设施提供商合作，将这一平台确立为新兴智能体经济的开放基础，并将独立、基于硬件的控制定位为大规模可信任自主系统的先决条件。凭借发布时的 100 多家合作伙伴、开源运行时以及对 NVIDIA 自身硬件栈之外设备的支持，该框架在实验室、企业和基础设施提供商中的普及程度，将检验智能体安全是否会围绕共享信任层实现统一。

本文最初发表于 Metaverse Post.