Inferact, een AI-infrastructuurstartup gevestigd in San Francisco die is opgericht door de mensen die vLLM onderhouden, heeft $150 miljoen opgehaald aan seedfinanciering. De financieringsronde, op 22 januari 2026 aangekondigd, waardeert het bedrijf op $800 miljoen post-money, met Andreessen Horowitz en Lightspeed Venture Partners onder de investeerders.

De propositie is eenvoudig: neem een van de meest gebruikte open-source tools voor het draaien van grote taalmodellen en bouw er een commercieel bedrijf omheen, zonder de broncode te sluiten.

Wat Inferact eigenlijk verkoopt

vLLM pakt de efficiëntie van inferentie aan met een techniek genaamd PagedAttention. De aanpak is gebaseerd op virtueel geheugen, het mechanisme waarmee besturingssystemen beperkt RAM verdelen over veel programma's tegelijk. In plaats van grote, starre geheugenblokken per aanvraag te reserveren, geeft het systeem geheugen uit in kleinere pagina's wanneer dat nodig is. Er ligt minder geheugen stil, dus dezelfde hardware kan meer aanvragen verwerken.

De belangen op deze laag zijn structureel. Inferentie is de terugkerende kostenpost van AI—elke aanvraag die een ingezet model verwerkt verbruikt rekenkracht en geheugen—dus efficiëntiewinsten stapelen zich direct op tot lagere kosten per aanvraag in plaats van eenmalige besparingen.

Het project heeft een breed bereik. vLLM ondersteunt meer dan 500 modelarchitecturen en meer dan 200 hardware-accelerators, en meer dan 2.000 bijdragers hebben eraan gewerkt. Amazon, Meta en Google gebruiken vLLM allemaal in hun productiesystemen.

Inferact wil betaalde diensten bovenop het open-sourceproject leggen. Dat omvat serverless-aanbiedingen, waarmee klanten modellen kunnen draaien zonder zelf servers te beheren, en krachtigere observability-tools om te monitoren hoe implementaties zich gedragen. Het bedrijf zegt zich te richten op het afstemmen van inferentie op drie knoppen: kosten, latentie en doorvoer.

Van Berkeley-lab naar startup van $800 miljoen

vLLM begon in 2023 aan de Sky Computing Lab van UC Berkeley, onder leiding van Ion Stoica, medeoprichter van Databricks. Stoica is ook oprichtend lid van Inferact. De rest van het oprichtingsteam bestaat uit Simon Mo, die als CEO optreedt, samen met Woosuk Kwon, Kaichao You en Roger Wang.

In mei 2025 werd vLLM een project van de PyTorch Foundation. Het bestuur door de houdt de routekaart leveranciërneutraal—een detail dat commercieel telt, omdat gebruikers op vLLM kunnen standaardiseren zonder van één leverancier afhankelijk te zijn. Inferact werd later in 2025 opgericht met als doel vLLM te commercialiseren en te schalen, met behoud van het open-sourcemodel.

Per oktober 2026 blijft Inferact upstream-bijdragen leveren aan vLLM, waaronder vroegtijdig optimalisatiewerk voor NVIDIA's Vera Rubin-hardware. Dat werk heeft op specifieke modellen tot 7,8x verbetering van de doorvoer opgeleverd.

Wat dit betekent voor de AI-infrastructuurmarkt

Het commercialiseringshandboek voor open source is bekend. Databricks bouwde een bedrijf rond Apache Spark, eveneens een project met Berkeley-wortels, en Inferact zet een vergelijkbare zet op—met een oprichtend lid dat dit al eerder heeft gedaan.

Met ondersteuning voor meer dan 200 accelerators profileert vLLM zich als een laag die over chipleveranciers heen werkt. Grote cloudproviders draaien vLLM zelf al, en die hebben diepe zakken en eigen beheerde AI-diensten. Het door Inferact genoemde voordeel is expertise: de mensen die de codebase het beste kennen, werken nu onder één dak.

Wat er komt, hangt af van praktische vragen: of het nieuwe kapitaal het upstream-werk, zoals de Vera Rubin-optimalisaties, versnelt; hoe het bedrijf diensten prijst op software die klanten anders zelf kunnen hosten; en of de cloudreuzen die vLLM al draaien bij de beheerders kopen of zelf beheerde alternatieven blijven bouwen. Die dynamiek, meer dan de kopwaardering, bepaalt of het Databricks-handboek ook voor inferentie werkt.