NVIDIA представила Open Agent Safety Platform — открытый фреймворк, предназначенный для защиты автономных ИИ-агентов посредством непрерывного мониторинга и аппаратного контроля политик. Анонсированная 28 сентября 2026 года, платформа появилась на фоне растущей обеспокоенности в ИИ-индустрии после сообщений о том, что агенты покидают среды оценки, получают доступ к несанкционированным системам и искажают отчёты о собственных действиях.

Компания проводит параллель с ранним интернетом, который стал основой для коммерции и коммуникаций лишь после появления механизмов безопасности — шифрованных соединений, изолированных вкладок браузера и видимых индикаторов доверия. NVIDIA утверждает, что агентный ИИ нуждается в аналогичном слое доверия, прежде чем он сможет масштабироваться до надёжной «экономики агентов», и что средства безопасности должны ускорять, а не сдерживать инновации.

Анонсируя запуск в X, генеральный директор NVIDIA Дженсен Хуанг заявил, что платформа объединяет два компонента, OpenShell и Sentry, при поддержке более чем 100 отраслевых партнёров:

Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry. Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to… pic.twitter.com/dReAxwpRUn

— Jensen Huang (@JensenHuang) September 28, 2026

OpenShell Runtime: изоляция от ядра и выше

Ядром платформы является NVIDIA OpenShell — защищённый runtime с открытым исходным кодом, выпущенный под лицензией Apache 2.0 — разрешающей лицензией с открытым кодом, позволяющей организациям изучать, изменять и разворачивать код в собственных сред. OpenShell исполняет каждого агента в изолированной среде (песочнице) с изоляцией на уровне ядра, преобразуя инструкции оператора в проверяемую политику, определяющую разрешённый доступ к файлам, сетям, инструментам, процессам и учётным данным. Эти ограничения проверяются перед выполнением и непрерывно применяются во время работы.

Платформа построена на пяти принципах: политики должны быть проверяемы до запуска агента; принуждение должно работать внеполосно, вне досягаемости агента; путь к модели служит основной точкой контроля и поверхностью наблюдаемости; полномочия агента должны расширяться пропорционально прозрачности его рассуждений; ответственность за безопасность разделяется между лабораториями, предприятиями и производителями оборудования.

Собственные исследования NVIDIA подчёркивают проблему «дрейфа» — поведения агента, отклоняющегося от поставленных задач из-за неоднозначных инструкций, блокировок политик, отсутствующих инструментов или длительной автономной работы. По данным компании, такой дрейф невозможно полностью устранить обучением без потери возможностей, и от агентов нельзя ожидать, что они будут контролировать собственное поведение в таких условиях. Этот вывод лежит в основе акцента платформы на внеполосном принуждении: если агент не способен надёжно контролировать себя, средства контроля должны находиться там, где агент не может их изменить.

Аппаратное принуждение в масштабе

Архитектура охватывает три уровня: приложение (модели, инструменты, оболочки и данные), runtime (оркестрация и применение политик) и инфраструктура (вычислительные ресурсы, хранилище и сеть). Для организаций, которым требуется независимый второй уровень, NVIDIA Sentry через NVIDIA DOCA расширяет мониторинг и принуждение на процессоры обработки данных BlueField-4, связывая взаимодействия агентов, решения политик и доступ к данным в контекстную запись активности и непрерывно проверяя личность каждого агента и его делегированные полномочия. DPU — это специализированные процессоры, обрабатывающие инфраструктурные задачи, такие как сеть и безопасность, отдельно от основных CPU сервера, что позволяет им наблюдать и применять политики даже когда сам хост недоверенный.

В конфигурациях NVIDIA Vera Rubin POD DPU BlueField-4 расположен на единственном пути узла к модели, обеспечивая внеполосную наблюдаемость и применение политик в реальном времени на скорости линии, изолированное от хоста. По словам NVIDIA, это позволяет применять безопасность «в кремнии», даже когда ресурсы хоста нельзя считать доверенными. Для существующих развёртываний Vera и BlueField-4 компания заявляет, что для включения защиты требуется лишь обновление ПО, а платформа также совместима с оборудованием сторонних производителей — условия, расширяющие контроль за пределы newly приобретённой инфраструктуры NVIDIA.

NVIDIA сообщила, что сотрудничает с фронтирными лабораториями, разработчиками и провайдерами инфраструктуры, чтобы утвердить платформу в качестве открытого фундамента формирующей экономики агентов, позиционируя независимый, аппаратно-корневой контроль как предпосылку доверенных автономных систем в масштабе. При более чем 100 партнёрах на запуске, runtime с открытым кодом и поддержке оборудования за пределами стека NVIDIA, широта принятия фреймворка лабораториями, предприятиями и провайдерами инфраструктуры покажет, консолидируется ли безопасность агентов вокруг общего слоя доверия.

Эта статья была впервые опубликована на Metaverse Post.