Inferact, startup z siedzibą w San Francisco zajmujący się infrastrukturą AI, założony przez osoby utrzymujące vLLM, pozyskał 150 mln USD w finansowaniu nasionowym. Runda, ogłoszona 22 stycznia 2026 roku, wycenia firmę na 800 mln USD po finansowaniu, a wśród inwestorów znaleźli się Andreessen Horowitz i Lightspeed Venture Partners.

Propozycja jest prosta: wziąć jedno z najpowszechniej używanych narzędzi open source do uruchamiania dużych modeli językowych i zbudować wokół niego komercyjny biznes, nie zamykając przy tym kodu źródłowego.

Co naprawdę sprzedaje Inferact

vLLM rozwiązuje problem wydajności wnioskowania dzięki technice o nazwie PagedAttention. Podejście czerpie z pamięci wirtualnej, mechanizmu, którego systemy operacyjne używają do zarządzania ograniczoną pamięcią RAM wielu programów jednocześnie. Zamiast rezerwować duże, sztywne bloki pamięci dla każdego żądania, system przydziela pamięć w mniejszych stronach w miarę potrzeb. Mniej pamięci pozostaje bezczynna, więc ten sam sprzęt może obsłużyć więcej żądań.

Stawki na tej warstwie mają charakter strukturalny. Wnioskowanie to powtarzalny koszt AI—każde żądanie obsłużone przez wdrożony model zużywa moc obliczeniową i pamięć—więc zyski wydajności przekładają się bezpośrednio na niższy koszt żądania, a nie na jednorazowe oszczędności.

Zasięg projektu jest szeroki. vLLM obsługuje ponad 500 architektur modeli i ponad 200 sprzętowych akceleratorów, a pracowało przy nim ponad 2000 współtwórców. Amazon, Meta i Google używają vLLM w swoich systemach produkcyjnych.

Inferact planuje nałożyć na projekt open source płatne usługi. Obejmują one oferty serverless, które pozwalają klientom uruchamiać modele bez samodzielnego zarządzania serwerami, oraz mocniejsze narzędzia do obserwowalności służące do monitorowania zachowania wdrożeń. Firma deklaruje, że jej celem jest dostrajanie wnioskowania w trzech wymiarach: koszt, opóźnienie i przepustowość.

Z laboratorium w Berkeley do startupu wartej 800 mln USD

vLLM powstał w 2023 roku w Sky Computing Lab na UC Berkeley, którym kieruje Ion Stoica, współzałożyciel Databricks. Stoica jest także członkiem założycielem Inferact. Pozosta część zespołu założycielskiego to Simon Mo, pełniący funkcję CEO, oraz Woosuk Kwon, Kaichao You i Roger Wang.

W maju 2025 roku vLLM stał się projektem fundacji PyTorch. Zarządzanie przez fundację utrzymuje neutralność roadmapy względem dostawców—szczegół istotny komercyjnie, ponieważ wdrażający mogą standaryzować się na vLLM bez uzależniania od jednego dostawcy. Inferact została założona później w 2025 roku z deklarowanym celem komercjalizacji i skalowania vLLM przy zachowaniu otwartego modelu kodu.

Na stan z października 2026 roku Inferact wciąż wnosi wkład do vLLM upstream, w tym wczesne prace optymalizacyjne pod sprzęt NVIDIA Vera Rubin. Te działania przyniosły poprawę przepustowości nawet o 7,8x na określonych modelach.

Co to oznacza dla rynku infrastruktury AI

Scenariusz komercjalizacji open source jest znajomy. Databricks zbudował biznes wokół Apache Spark, innego projektu o berkeleyowskich korzeniach, a Inferact realizuje podobny plan—z członkiem założycielem, który zrobił to już wcześniej.

Dzięki obsłudze ponad 200 akceleratorów vLLM pozycjonowany jest jako warstwa działająca u różnych producentów chipów. Duzi dostawcy chmury już sami uruchamiają vLLM, mają głębokie kieszenie i własne zarządzane usługi AI. Deklarowaną przewagą Inferact jest eksperckość: osoby, które najlepiej znają tę bazę kodu, działają teraz pod jednym dachem.

To, co nastąpi dalej, zależy od praktycznych pytań: czy nowe kapitały przyspieszą prace upstream, takie jak optymalizacje Vera Rubin, jak firma wyceni usługi dla oprogramowania, które klienci mogą w inny sposób hostować samodzielnie, oraz czy giganci chmurowi, którzy już uruchamiają vLLM, kupią od jego opiekunów, czy będą dalej budować zarządzane alternatywy we własnym zakresie. Te dynamiki, bardziej niż nagłośniona wycena, pokażą, czy scenariusz Databricks przenosi się na wnioskowanie.