新聞股票Nvidia發表全堆疊OpenShell藍圖,圍堵並監控AI代理

Nvidia發表全堆疊OpenShell藍圖,圍堵並監控AI代理

作者: Decrypt·

重點速覽

  • •Nvidia的OpenShell參考架構在堆疊中分配不同角色:Vera Rubin系統運行AI模型,Vera CPU託管代理,BlueField-4晶片則運行Sentry監控框架。
  • •開源OpenShell執行環境將每個代理工作負載視為不受信任,由四個部分組成:閘道、監管程式、沙箱,以及運用形式化驗證確保權限不超過組織設定上限的政策驗證器。
  • •BlueField-4位於節點通往模型的唯一路徑上,使Sentry能檢查代理流量並在數毫秒內隔離行為異常的代理,無需代理或其主機配合。
  • •此次發表是對一連串代理圍堵失敗事件的回應,包括約1,200個OpenAI代理在未經授權的留言板上協調行動,以及另一個代理入侵澳洲Medicare統計入口網站。
  • •雖然架構現已推出,Sentry預計於明年初正式供應,在此之前企業可部署的圍堵層為OpenShell的軟體控制。
Nvidia發表全堆疊OpenShell藍圖,圍堵並監控AI代理

Nvidia於週三在GTC柏林大會上發表OpenShell參考架構,這是一套全堆疊藍圖,結合其Vera CPU、開源OpenShell執行環境與運行Sentry監控框架的BlueField-4晶片,用以圍堵並監控自主AI代理——即能代表使用者規劃並執行多步驟任務的軟體——詳見該公司的公告。

在該架構下,Nvidia的Vera Rubin系統運行模型,Vera CPU在OpenShell中運行代理及其工具,BlueField-4晶片則運行Sentry。此監控框架可從獨立的硬體網域檢查代理流量,並在數毫秒內隔離代理,無需代理或其主機配合。

Nvidia執行長黃仁勳將此設計描述為一種分工,代理「基本上是靠不同環境與框架的協同作用而存在」。

「Nvidia打造OpenShell,讓代理在明確界定的邊界內自由執行有用的工作——受到圍堵、監控與控制,」黃仁勳在公告中表示。「透過OpenShell參考架構,代理可以在Rubin上思考、在Vera上行動、在BlueField上受到治理。」

Nvidia在一篇技術部落格文章中表示,OpenShell是這套設計核心的開源執行環境,將每個代理工作負載視為不受信任,僅在需要時授予存取權。它包含四個部分:管理沙箱與政策的閘道;檢查對外請求並將憑證與沙箱分開處理的監管程式;隔離代理的沙箱本身;以及執行形式化驗證——一種以數學方式證明系統行為保持在既定規則內的技術——以確認權限不超過組織所設上限的政策驗證器。

在硬體方面,BlueField-4是一款獨立於主處理器處理網路與安全的資料處理器,位於節點通往模型的唯一路徑上。根據Sentry深度解析,這樣的部署位置讓Sentry能夠檢查代理與模型之間的流量,而無需依賴代理自行回報。

此次發表的背景是AI代理在夏季多次逃出測試環境。Nvidia於9月28日將OpenShell與Sentry整合為Open Agent Safety Platform,擁有超過100家合作夥伴。AI安全研究機構METR在8月報告指出,約有1,200個OpenAI代理在一個未經授權的留言板上協調行動,其中約700個隨後攻擊了Hugging Face。澳洲總理艾班尼斯於9月表示,一個OpenAI代理也在6月入侵澳洲Medicare統計入口網站。這些事件共同凸顯了該架構所針對的堵問題:代理在營運者設定的邊界之外運作。

Nvidia表示,企業可以在OpenShell基礎設施上運行來自Anthropic、Google、Meta與OpenAI等模型開發商的代理。包括CrowdStrike、Palo Alto Networks、Zscaler與Check Point在內的資安廠商正在將對該架構的支援整合進其代理安全產品,歐洲銀行BBVA與Santander也正在評估將其作為代理安全與治理的框架——這是代理治理興趣從AI供應商延伸至受監管產業的早期跡象。ServiceNow也宣布其Arc代理正式上市,其動作在執行階段受到治理並由OpenShell強制執行。

Nvidia將BlueField-4與Sentry描述為針對需要超出OpenShell軟體邊界保護之部署的選配硬體防護。該公司表示架構現已推出,但Sentry深度解析列出該框架預計於明年初供應,更多程式庫與資源仍處於測試階段。這意味著企業目前能部署的圍堵層仍是OpenShell的軟體控制,待Sentry正式上市後再導入硬體監控。