Inferact, startup di infrastrutture AI con sede a San Francisco fondata dalle persone che mantengono vLLM, ha raccolto 150 milioni di dollari in finanziamenti seed. Il round, annunciato il 22 gennaio 2026, valuta l'azienda a 800 milioni di dollari post-money, con Andreessen Horowitz e Lightspeed Venture Partners tra gli investitori.

La proposta è semplice: prendere uno degli strumenti open source più utilizzati per eseguire modelli linguistici di grandi dimensioni e costruire attorno ad esso un'attività commerciale, senza chiudere il codice sorgente.

Cosa vende realmente Inferact

vLLM affronta l'efficienza dell'inferenza con una tecnica chiamata PagedAttention. L'approccio trae ispirazione dalla memoria virtuale, il meccanismo che i sistemi operativi utilizzano per gestire una quantità limitata di RAM tra molti programmi contemporaneamente. Invece di riservare grandi blocchi di memoria rigidi per ogni richiesta, il sistema distribuisce la memoria in pagine più piccole secondo necessità. Così rimane meno memoria inutilizzata e lo stesso hardware può servire più richieste.

Quello che è in gioco a questo livello è strutturale. L'inferenza è il costo ricorrente dell'IA—ogni richiesta servita da un modello distribuito consuma potenza di calcolo e memoria—quindi i guadagni di efficienza si traducono direttamente in un costo per richiesta inferiore, anziché in risparmi una tantum.

La portata del progetto è ampia. vLLM supporta più di 500 architetture di modelli e oltre 200 acceleratori hardware, e più di 2.000 contributori vi hanno lavorato. Amazon, Meta e Google utilizzano tutti vLLM nei loro sistemi di produzione.

Inferact prevede di aggiungere servizi a pagamento sopra il progetto open source. Tra questi, offerte serverless, che consentono ai clienti di eseguire modelli senza gestire direttamente i server, e strumenti di osservabilità più avanzati per monitorare il comportamento dei deployment. L'azienda dichiara che il suo focus è l'ottimizzazione dell'inferenza su tre leve: costo, latenza e throughput.

Da un laboratorio di Berkeley a una startup da 800 milioni di dollari

vLLM è nato nel 2023 presso lo Sky Computing Lab dell'UC Berkeley, diretto da Ion Stoica, co-fondatore di Databricks. Stoica è anche membro fondatore di Inferact. Il resto del team fondatore comprende Simon Mo, che ricopre il ruolo di CEO, insieme a Woosuk Kwon, Kaichao You e Roger Wang.

A maggio 2025, vLLM è diventato un progetto della PyTorch Foundation. La governance della Foundation mantiene la roadmap neutrale rispetto ai fornitori—un dettaglio rilevante a livello commerciale, poiché chi lo adotta può standardizzare su vLLM senza dipendere da un unico fornitore. Inferact è stata fondata più tardi nel 2025 con l'obiettivo dichiarato di commercializzare e far crescere vLLM mantenendo intatto il modello open source.

A ottobre 2026, Inferact continua a contribuire upstream a vLLM, inclusi lavori pionieristici di ottimizzazione per l'hardware Vera Rubin di NVIDIA. Questo impegno ha portato a miglioramenti di fino a 7,8 volte su modelli specifici.

Cosa significa per il mercato delle infrastrutture AI

Il modello di commercializzazione dell'open source è noto. Databricks ha costruito un'attività attorno ad Apache Spark, un altro progetto con radici a Berkeley, e Inferact sta seguendo una strategia simile—con un membro fondatore che l'ha già fatta prima.

Con il supporto per più di 200 acceleratori, vLLM si posiziona come un livello che funziona tra i diversi produttori di chip. I grandi fornitori cloud eseguono già vLLM in autonomia, dispongono di risorse considerevoli e dei propri servizi IA gestiti. Il vantaggio dichiarato di Inferact è l'expertise: le persone che conoscono meglio il codebase ora lavorano sotto lo stesso tetto.

Il futuro dipenderà da questioni pratiche: se il nuovo capitale accelererà il lavoro upstream come le ottimizzazioni per Vera Rubin, come l'azienda prezzerà i servizi su un software che i clienti altrimenti possono ospitare in autonomia, e se i giganti del cloud che già eseguono vLLM acquisteranno dai suoi manutentori o continueranno a sviluppare alternative gestite internamente. Queste dinamiche, più della valutazione titolata, indicheranno se il modello Databricks si trasferirà anche all'inferenza.