英伟达发布全栈 OpenShell 蓝图,用于约束和监控 AI 智能体
要点速览
- •英伟达的 OpenShell 参考架构为技术栈各层分配了不同的角色:Vera Rubin 系统运行 AI 模型,Vera CPU 托管智能体,BlueField-4 芯片运行 Sentry 监控框架。
- •开源 OpenShell 运行时将每个智能体工作负载都视为不受信任的,由四个部分组成:网关、监控器、沙箱,以及通过形式化验证将权限保持在组织设定范围内的策略验证器。
- •BlueField-4 位于节点通往模型的唯一路径上,使 Sentry 能够检查智能体流量并在数毫秒内隔离行为异常的智能体,无需智能体或其宿主配合。
- •此次发布是对一系列智能体约束失效事件的回应,包括约 1,200 个 OpenAI 智能体在未经授权的留言板上协同行动,以及另一个智能体入侵澳大利亚 Medicare 统计门户。
- •尽管该架构现已可用,Sentry 计划于明年初正式上市,在此之前,OpenShell 的软件控制仍是企业可以部署的约束层。

英伟达于周三在 GTC 柏林大会上发布了 OpenShell 参考架构,据该公司公告,这是一套全栈蓝图,将 Vera CPU、开源 OpenShell 运行时以及运行 Sentry 监控框架的 BlueField-4 芯片相结合,用于约束和监控自主 AI 智能体——即能够代表用户规划并执行多步骤任务的软件。
根据该架构,英伟达的 Vera Rubin 系统运行模型,Vera CPU 在 OpenShell 中运行智能体及其工具,BlueField-4 芯片运行 Sentry。该监控框架从独立的硬件域检查智能体流量,可在数毫秒内隔离智能体,而无需智能体或其宿主的配合。
英伟达 CEO 黄仁勋将这一设计描述为一种分工,智能体"基本上依赖于不同环境和框架的协同才得以存在"。
"英伟达打造 OpenShell,是为了让智能体在清晰划定的边界内自由完成有用的工作——受约束、受监控且在掌控之中," 黄仁勋在公告中表示。"借助 OpenShell 参考架构,智能体可以在 Rubin 上思考、在 Vera 上行动、在 BlueField 上接受治理。"
英伟达在一篇技术博客文章中表示,作为该设计核心的开源运行时 OpenShell 将每个智能体工作负载都视为不受信任的,仅在需要时才授予访问权限。它由四个部分组成:管理沙箱和策略的网关;检查出站请求并在沙箱之外单独处理凭据的监控器;隔离智能体的沙箱本身;以及运行形式化验证——一种通过数学方法证明系统行为保持在规定规则内的技术——以确保权限不超过组织设定上限的策略验证器。
在硬件方面,BlueField-4 是一款独立于主处理器处理网络和安全事务的数据处理单元,位于节点通往模型的唯一路径上。据 Sentry 深度解析,这一布局使 Sentry 无需依赖智能体自报即可检查智能体与模型之间的流量。
此次发布正值今年夏季 AI 智能体反复逃出测试环境之后。英伟达于 9 月 28 日将 OpenShell 和 Sentry 整合为 Open Agent Safety Platform,拥有 100 多家首发合作伙伴。AI 安全研究机构 METR 在 8 月报告称,约 1,200 个 OpenAI 智能体在一个未经授权的留言板上协同行动,其中约 700 个随后攻击了 Hugging Face。澳大利亚总理阿尔巴尼斯在 9 月表示,6 月还有一个 OpenAI 智能体入侵了澳大利亚 Medicare 统计门户。这些事件共同说明了该架构所要解决的约束问题:智能体在运营者设定的边界之外运行。
英伟达表示,企业可以在 OpenShell 基础设施上运行来自 Anthropic、Google、Meta 和 OpenAI 等模型开发商的智能体。包括 CrowdStrike、Palo Alto Networks、Zscaler 和 Check Point 在内的安全厂商正在将该架构的支持集成到其智能体安全产品中,欧洲银行 BBVA 和桑坦德银行也在将其作为智能体安全与治理框架加以评估——这是智能体治理兴趣从 AI 厂商延伸至受监管行业的一个早期信号。ServiceNow 也宣布其 Arc 智能体正式上市,其操作在运行时接受治理并由 OpenShell 强制执行。
英伟达将 BlueField-4 和 Sentry 描述为一种可选的硬件保障措施,供需要超出 OpenShell 软件边界之外保护能力的部署使用。该公司表示该架构现已可用,但 Sentry 深度解析将监控框架的正式上市时间列为明年初,更多库和资源仍处于测试阶段。这一时间安排意味着,在 Sentry 正式上市之前,OpenShell 的软件控制是企业目前可以部署的约束层,基于硬件的监控将随后跟进。