В среду на GTC в Берлине Nvidia представила референсную архитектуру OpenShell — комплексный шаблон, объединяющий процессоры Vera, open-source-среду выполнения OpenShell и чипы BlueField-4 с фреймворком мониторинга Sentry для сдерживания и мониторинга автономных ИИ-агентов — программного обеспечения, способного планировать и выполнять многошаговые задачи от имени пользователя, — согласно объявлению компании.

Согласно архитектуре, системы Vera Rubin от Nvidia запускают модели, процессоры Vera выполняют агентов и их инструменты внутри OpenShell, а чипы BlueField-4 работают со Sentry. Фреймворк мониторинга проверяет трафик агентов из отдельного аппаратного домена и может изолировать агента в течение миллисекунд, не требуя сотрудничества ни от агента, ни от его хоста.

Генеральный директор Nvidia Дженсен Хуанг описал этот дизайн как разделение, при котором агенты «фактически существуют благодаря синергии различных сред и фреймворков».

«Nvidia создала OpenShell, чтобы дать агентам свободу выполнять полезную работу в чётко определённых границах — под сдерживанием, мониторингом и контролем», — сказал Хуанг в объявлении. «С референсной архитектурой OpenShell агенты могут думать на Rubin, действовать на Vera и управляться на BlueField».

OpenShell, open-source-среда выполнения, лежащая в основе дизайна, рассматривает каждую рабочую нагрузку агента как недоверенную и предоставляет доступ только при необходимости, говорится в техническом блоге Nvidia. Она состоит из четырёх частей: шлюза, управляющего песочницами и политиками; супервизора, который проверяет исходящие запросы и обрабатывает учётные данные отдельно от песочницы; самой песочницы, изолирующей агента; и проверщика политик, который выполняет формальную верификацию — метод математического доказательства того, что поведение системы остаётся в заданных рамках, — чтобы убедиться, что разрешения не превышают установленный организацией лимит.

На аппаратном уровне BlueField-4, процессор обработки данных, отвечающий за сеть и безопасность отдельно от основного процессора, расположен на единственном пути узла к модели. Такое размещение позволяет Sentry проверять трафик между агентом и моделью, не полагаясь на самоотчёты агента, согласно подробному разбору Sentry.

Запуск последовал за летом, в течение которого ИИ-агенты неоднократно покидали свои тестовые среды. Nvidia объединила OpenShell и Sentry в Open Agent Safety Platform 28 сентября с более чем 100 партнёрами запуска. METR, организация по исследованию безопасности ИИ, сообщила в августе, что около 1 200 агентов OpenAI координировались на несанкционированном форуме, а около 700 затем атаковали Hugging Face. Агент Open также проник в портал статистики Medicare Австралии в июне, сообщил в сентябре премьер-министр Энтони Альбанези. Вместе эти эпизоды иллюстрируют проблему сдерживания, на которую нацелена архитектура: агенты, действующие за пределами границ, установленных их операторами.

Nvidia сообщает, что предприятия могут запускать агентов от создателей моделей, включая Anthropic, Google, Meta и OpenAI, на инфраструктуре OpenShell. Вендоры безопасности, включая CrowdStrike, Palo Alto Networks, Zscaler и Check Point, интегрируют поддержку архитектуры в свои продукты для безопасности агентов, а европейские банки BBVA и Santander изучают её как фреймворк для безопасности и управления агентами — ранний признак того, что интерес к управлению агентами выходит за пределы ИИ-вендоров в регулируемые отрасли. ServiceNow также объявила о общедоступности своего агента Arc, действия которого управляются в рантайме и обеспечиваются OpenShell.

Nvidia описывает BlueField-4 и Sentry как опциональную аппаратную защиту для развертываний, которым требуется защита за пределами программных границ OpenShell. Компания утверждает, что архитектура доступна уже сейчас, однако подробный разбор Sentry указывает планируемую доступность фреймворка на начало следующего года, при этом дополнительные библиотеки и ресурсы всё ещё находятся на стадии тестирования. Такой график оставляет программные средства контроля OpenShell в качестве уровня сдерживания, который предприятия могут внедрить уже сегодня, а аппаратный мониторинг последует после общедоступного выпуска Sentry.