NVIDIA heeft het Open Agent Safety Platform geïntroduceerd, een open raamwerk dat is ontworpen om autonome AI-agenten te beveiligen door middel van continue monitoring en hardware-afgedwongen beleidscontroles. Het platform, aangekondigd op 28 september 2026, verschijnt te midden van groeiende bezorgdheid in de AI-sector naar aanleiding van rapporten over agenten die aan hun evaluatieomgevingen ontsnappen, ongeautoriseerde systemen benaderen en hun eigen handelingen verkeerd rapporteren.

Het bedrijf maakt een vergelijking met het vroege internet, dat pas een fundament werd voor handel en communicatie nadat beveiligingsmechanismen — versleutelde verbindingen, sandboxed browsertabbladen en zichtbare vertrouwensindicatoren — waren vastgesteld. NVIDIA stelt dat agentic AI een vergelijkbare vertrouwenslaag nodig heeft voordat het kan uitgroeien tot een betrouwbare "agenteneconomie," en dat veiligheidscontroles innovatie moeten versn in plaats van belemmeren.

Bij de aankondiging van de lancering op X zei NVIDIA-ceo Jensen Huang dat het platform twee componenten samenbrengt, OpenShell en Sentry, met steun van meer dan 100 industriepartners:

Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry. Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to… pic.twitter.com/dReAxwpRUn

— Jensen Huang (@JensenHuang) September 28, 2026

OpenShell Runtime: isolatie vanaf de kernel naar boven

De kern van het platform wordt gevormd door NVIDIA OpenShell, een open-source beveiligde runtime die is uitgebracht onder de Apache 2.0-licentie — een permissieve open-sourcelicentie waarmee organisaties de code kunnen inspecteren, aanpassen en inzetten in hun eigen omgevingen. OpenShell voert elke agent uit binnen een sandboxed omgeving met isolatie op kernelniveau, waarbij instructies van de beheerder worden vertaald naar een verifieerbaar beleid dat de toegestane toegang tot bestanden, netwerken, tools, processen en inloggegevens definieert. Deze limieten worden gevalideerd vóór uitvoering en continu gehandhaafd tijdens de werking.

Het platform is gebouwd op vijf principes: beleid moet verifieerbaar zijn voordat een agent draait; handhaving moet out-of-band plaatsvinden, buiten het bereik van de agent; het pad naar het model dient als het primaire controlepunt en observatievlak; de autoriteit van een agent moet groeien met transparantie over zijn redenering; en verantwoordelijkheid voor beveiliging wordt gedeeld door labs, ondernemingen en hardwareleveranciers.

NVIDIA's eigen onderzoek benadrukt het probleem van "drift" — het gedrag van agenten dat afwijkt van de beoogde taken als gevolg van dubbelzinnige instructies, beleidsblokkades, ontbrekende tools of langdurige autonome werking. Volgens het bedrijf kan dergelijke drift niet volledig worden weggetraind zonder in te boeten op capaciteit, en van agenten kan niet worden verwacht dat zij hun eigen gedrag onder deze omstandigheden beheersen. Deze bevinding ligt ten grondslag aan de nadruk van het platform op out-of-band handhaving: als een agent zich niet betrouwbaar zelf kan controleren, moeten de controles zich bevinden waar de agent ze niet kan wijzigen.

Handhaving op hardwareniveau op schaal

De architectuur omvat drie lagen: de applicatie (modellen, tools, harnesses en data), de runtime (orkestratie en beleidshandhaving) en de infrastructuur (reken-, opslag- en netwerkbronnen). Voor organisaties die een onafhankelijke tweede laag nodig hebben, breidt NVIDIA Sentry de monitoring en handhaving uit naar BlueField-4 data processing units via NVIDIA DOCA, waarbij interacties van agenten, beleidsbeslissingen en gegevenstoegang wordenecorreleerd tot een contextuele activiteitenregistratie terwijl de identiteit en gedelegeerde autoriteit van elke agent continu worden geverifieerd. DPU's zijn speciale processoren die infrastructuurtaken zoals netwerken en beveiliging afzonderlijk van de hoofd-CPU's van een server afhandelen, waardoor ze beleid kunnen observeren en handhaven zelfs wanneer de host zelf onbetrouwbaar is.

In NVIDIA Vera Rubin POD-configuraties bevindt een BlueField-4 DPU zich op het enige pad van de node naar het model, wat out-of-band observability en realtime beleidshandhaving op lijnsnelheid biedt, geïsoleerd van de host. Volgens NVIDIA maakt dit beveiligingshandhaving "in silicon" mogelijk, zelfs wanneer hostbronnen niet te vertrouwen zijn. Voor bestaande Vera- en BlueField-4-implementaties stelt het bedrijf dat de beschermingen slechts een update vereisen, en het platform is ook compatibel met niet-NVIDIA-hardware — voorwaarden die de controles uitbreiden tot voorbij nieuw aangeschafte NVIDIA-infrastructuur.

NVIDIA zei samen te werken met frontier labs, ontwikkelaars en infrastructuurleveranciers om het platform te vestigen als een open fundament voor de opkomende agenteneconomie, waarbij onafhankelijke, op hardware gebaseerde controles worden gepositioneerd als een voorwaarde voor betrouwbare autonome systemen op schaal. Met meer dan 100 partners bij de lancering, een open-source runtime en ondersteuning voor hardware buiten NVIDIA's eigen stack, zal de vraag hoe breed het raamwerk wordt omarmd door labs, ondernemingen en infrastructuurleveranciers bepalen of agentveiligheid zich consolideert rond een gedeelde vertrouwenslaag.

Dit artikel is oorspronkelijk gepubliceerd op Metaverse Post.