Agentic AI

Generative AI

Nieuws

Nvidia’s New Open Model Is for Specific Use Cases

The model is small enough for enterprises to run on local devices and is targeted toward specific tasks.

August 12, 2026

Te midden van de toenemende belangstelling voor Chinese open-weight modellen heeft AI-hardwareleverancier Nvidia zijn nieuwste open source model geïntroduceerd: Nemotron 3.5 Lightning. Het model, dat op 11 augustus werd uitgebracht, is klein genoeg om door ondernemingen op lokale apparaten te worden uitgevoerd en is gericht op specifieke taken binnen grotere multi-agent systemen.

Nemotron 3.5 Lightning is een mixture-of-experts-model — een architectuur die voor een gegeven query slechts een deel van de totale parameters van het model activeert, waardoor het betere prestaties kan leveren tegen lagere inferentiekosten dan een vergelijkbaar groot dicht model. Volgens Nvidia kan het gespecialiseerde functies uitvoeren zoals code review, tool use, monitoring van beveiligingsmeldingen en het beantwoorden van vragen over facturering. Het bedrijf publiceerde de modelgewichten, code, recepten en trainingsdata onder de OpenMDW 1.1-licentie van de Linux Foundation, waarmee het een volledig open source model is.

Het model maakt deel uit van Nvidia's Nemotron 3-familie van open modellen, die oorspronkelijk in december vorig jaar werd uitgebracht. Het heeft 30 miljard parameters — kleiner dan Nemotron 3 Ultra (550 miljard) en groter dan Nemotron 3 Nano (8 miljard) — en is bedoeld om ondernemingen te helpen agentic-toepassingen op lokale apparaten te bouwen.

Naast Nemotron 3.5 Lightning bracht Nvidia NeMo Switchyard uit, een open source bibliotheek voor routering binnen populaire agentic-toepassingen. Ondernemingen kunnen Switchyard gebruiken om een prompt of agentic request door te sturen naar het meest geschikte model binnen hun eigen mix van open, propriëtaire of Nvidia-modellen, aldus het bedrijf. Tools voor modelroutering zijn een steeds belangrijker onderdeel geworden van enterprise AI-stacks nu organisaties multi-modelarchitecturen invoeren en verschillende taken toewijzen aan verschillende modellen op basis van kosten-, latency- en capaciteitsvereisten.

Beide releases kwamen minder dan een maand nadat Nvidia-CEO Jensen Huang had onthuld dat de AI-hardware- en softwaregigant zich had aangesloten bij een brede coalitie van techleveranciers die open source verdedigen, terwijl de Trump-regering beperkingen overwoog op open-weight modellen uit China. In een X-post zei Huang dat open modellen soevereiniteit mogelijk maken en veiligheid en cybersecurity versterken.

Nemotron 3.5 Lightning is Nvidia's eerste open model sinds het debat over de vooruitgang in Chinese open modellen vorige maand intensiveerde, nadat Chinese AI-leveranciers Alibaba en Moonshot AI goedkope, krachtige open-weight modellen hadden uitgebracht. De lancering door Nvidia volgt op een dag nadat socialmediabedrijf Meta zijn nieuwste open model uitbracht.

"It’s a testament to just how impactful the Chinese models have been and will be," zei Bradley Shimmin, analist bij Futurum Group, en voegde eraan toe dat velen Alibaba Qwen 3.8 Max beschouwen als "the benchmark for local capable open source agentic development."

Supporting Nvidia’s Infrastructure

Volgens Arun Chandrasekaran, analist bij Gartner, is het aanbieden van open source modellen voor Nvidia niet alleen een strategie om te concurreren met Chinese leveranciers, maar ook een manier om zijn chips en hardware beter te verkopen.

"Models help Nvidia sell its infrastructure better," zei Chandrasekaran. "When you sell a model, you have to run the model somewhere. Running the models requires networking, inference software and data training."

"It is in Nvidia's own interest that there is a vibrant model ecosystem that's out there, and the model ecosystem is not very concentrated," vervolgde Chandrasekaran. Hij merkte op dat ondernemingen Nvidia's modellen meestal alleen gebruiken voor specifieke taken, on-premises implementaties of scenario's met aanzienlijke soevereiniteitsvereisten.

Met Nemotron 3.5 Lightning kunnen zakelijke gebruikers het model uitvoeren op lokale AI-systemen, waaronder Nvidia's RTX PCs, DGX Spark en Jetson. De nadruk op lokale implementatie weerspiegelt een bredere verschuiving binnen ondernemingen richting on-premises AI-infrastructuur, gedreven door regelgeving rond datasoevereiniteit, eisen voor privacycompliance en de noodzaak om doorlopende operationele kosten te beheersen.

Training Data and Model Size

Dat Nvidia ook de trainingsdata voor het model heeft vrijgegeven, is eveneens prijzenswaardig, zei Shimmin.

"There are very few vendors, with the exception of IBM, that have been promoting and touting this ability to say, 'if you indeed care about exposure to risk in adopting AI, you should care about the training data used to build these models,'" zei hij. "It all starts with the data, and it honestly ends with the data too."

De omvang van Nemotron 3.5 Lightning laat zien hoe leveranciers als Nvidia beginnen te erkennen dat modellen nu op de juiste schaal moeten worden gebracht, voegde Shimmin toe. Hij zei dat veel leveranciers beseffen dat de huidige manier om via API's toegang te krijgen tot modellen op basis van tokenkosten te duur is, en dat lokaal met het model werken ondernemingen helpt de kosten van generatieve AI te verantwoorden. De release weerspiegelt ook een bredere trend in de sector, waarbij leveranciers als Meta, Mistral en Alibaba kleinere, taakgerichte modellen hebben geïntroduceerd naast hun vlaggenschipmodellen, in de wetenschap dat veel enterprise use cases geen frontier-scale capaciteiten vereisen.

"Tokenomics over time have already proven to be a little bit hazardous for companies in terms of both not understanding their token spend and having no ability to actually gain observability or transparency in how that spend is going," zei Shimmin.