NVIDIA 發表了 Open Agent Safety Platform,這是一個開放框架,旨在透過持續監控與硬體強制的政策控制來保護自主 AI 代理。該平台於2026年9月28日宣布,正值 AI 業界對代理逃脫評估環境、存取未授權系統以及錯誤回報自身行為等報導所引發的日益關切之際。

該公司將此與早期網際網路類比:網際網路是在加密連線、沙盒化的瀏覽器分頁以及可見的信任指標等安全機制建立之後,才成為商業與通訊的基礎。NVIDIA 主張,代理式 AI 需要類似的信任層,才能擴展為可靠的「代理經濟」,且安全控制應加速而非阻礙創新。

NVIDIA 執行長黃仁勳在 X 上宣布此項發表時表示,該平台整合了 OpenShell 與 Sentry 兩個元件,並獲得超過100家產業夥伴的支持:

Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry. Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to… pic.twitter.com/dReAxwpRUn

— Jensen Huang (@JensenHuang) September 28, 2026

OpenShell 執行環境:自核心層級向上隔離

平台的核心是 NVIDIA OpenShell,一個以 Apache 2.0 授權釋出的開源安全執行環境——這是一種寬鬆的開源授權,允許組織在自己的環境中檢視、修改與部署程式碼。OpenShell 在具備核心層級隔離的沙盒環境中執行每個代理,將操作者的指令轉換為可驗證的政策,定義對檔案、網路、工具、程序與憑證的允許存取範圍。這些限制會在執前進行驗證,並在運作期間持續強制執行。

該平台建立在五項原則之上:政策必須在代理執行前可被驗證;執行機制必須在帶外運作,超出代理的可及範圍;通往模型的路徑作為主要的控制點與可觀測面;代理的權限必須與其推理過程的透明度同步擴展;安全責任由實驗室、企業與硬體供應商共同承擔。

NVIDIA 自身的研究突顯了「漂移」問題——即代理行為因指令模糊、政策阻擋、工具缺失或長時間自主運作而偏離預定任務。該公司指出,此類漂移無法在不犧牲能力的前提下完全透過訓練消除,且不能期望代理在這些條件下自我規範行為。這一發現支撐了平台對帶外執行的重視:若代理無法可靠地自我約束,控制機制就必須放置在代理無法竄改之處。

大規模的硬體層級執行

該架構涵蓋三個層級:應用層(模型、工具、框架與資料)、執行環境層(編排與政策執行),以及基礎設施層(運算、儲存與網路資源)。對於需要獨立第二層防護的組織,NVIDIA Sentry 透過 NVIDIA DOCA 將監控與執行機制延伸至 BlueField-4 資料處理器(DPU),將代理互動、政策決策與資料存取關聯為情境化的活動紀錄,同時持續驗證每個代理的身分與被委派的權限。DPU 是專用處理器,將網路與安全等基礎設施工作與伺服器的主要 CPU 分開處理,這正是它們即使在主機本身不受信任時,仍能觀測並執行政策的原因。

在 NVIDIA Vera Rubin POD 配置中,BlueField-4 DPU 位於節點通往模型的唯一路徑上,提供帶外可觀測性以及與主機隔離的即時、線速政策執行。據 NVIDIA 表示,這使得安全執行得以「在矽層級」實現,即使主機資源不受信任也能運作。對於現有的 Vera 與 BlueField-4 部署,該公司表示僅需軟體更新即可啟用這些防護,且該平台也相容於非 NVIDIA 硬體——這些條件將控制範圍延伸至新購的 NVIDIA 基礎設施之外。

NVIDIA 表示,正與前沿實驗室、開發者及基礎設施供應商合作,將該平台建立為新興代理經濟的開放基礎,並將獨立、根植於硬體的控制定位為大規模可信自主系統的前提。著發表時即有超過100家夥伴、開源執行環境,以及對 NVIDIA 自家生態系之外硬體的支援,該框架在實驗室、企業與基礎設施供應商之間的採用廣度,將成為代理安全是否能凝聚於共享信任層的衡量指標。

本文最初發表於 Metaverse Post。