Inferact sammelt 150 Mio. USD Seed-Runde bei 800 Mio. USD Bewertung zur Skalierung der vLLM-Inferenz-Engine
Wichtige Erkenntnisse
- •Inferact hat 150 Millionen US-Dollar in einer Seed-Finanzierung eingesammelt, die am 22. Januar 2026 verkündet wurde, und bewertet das Unternehmen post-money mit 800 Millionen US-Dollar; zu den Investoren zählen Andreessen Horowitz und Lightspeed Venture Partners.
- •Zum Gründungsteam gehören die Maintainer von vLLM, angeführt von CEO Simon Mo alongside Databricks-Mitgründer Ion Stoica; das Projekt entstand 2023 am Sky Computing Lab der UC Berkeley.
- •vLLM unterstützt mehr als 500 Modellarchitekturen und über 200 Hardware-Beschleuniger; Amazon, Meta und Google setzen es in ihren Produktivsystemen ein.
- •Inferact beabsichtigt, über bezahlte Dienste wie Serverless-Angebote und Observability-Tools ein kommerzielles Geschäft aufzubauen und vLLM dabei unter der Governance der PyTorch Foundation open source zu halten.
- •Inferacts fortlaufende Upstream-Optimierungsarbeiten für NVIDIAs Vera-Rubin-Hardware haben bis Oktober 2026 auf spezifizierten Modellen Durchsatzverbesserungen von bis zu 7,8-fach erzielt.
Inferact, ein KI-Infrastruktur-Startup aus San Francisco, das von den Maintainern von vLLM gegründet wurde, hat 150 Millionen US-Dollar in einer Seed-Finanzierung eingesammelt. Die am 22. Januar 2026 verkündete Runde bewertet das Unternehmen post-money mit 800 Millionen US-Dollar; zu den Investoren zählen Andreessen Horowitz und Lightspeed Venture Partners.
Das Konzept ist unkompliziert: eines der am weitesten verbreiteten Open-Source-Tools für den Betrieb großer Sprachmodelle aufgreifen und daraus ein kommerzielles Geschäft aufbauen – ganz ohne Schließung des Quellcodes.
Was Inferact tatsächlich verkauft
vLLM verbessert die Inferenz-Effizienz mit einer Technik namens PagedAttention. Der Ansatz lehnt sich an virtuellen Speicher an, den Mechanismus, mit dem Betriebssysteme knappen Arbeitsspeicher gleichzeitig über viele Programme verteilen. Statt große, starre Speicherblöcke für jede Anfrage zu reservieren, vergibt das System Speicher nach Bedarf in kleineren Seiten. Weniger Speicher liegt brach, sodass dieselbe Hardware mehr Anfragen bedienen kann.
Die Bedeutung auf dieser Schicht ist strukturell: Inferenz ist die wiederkehrende Kostenposition der KI – jede Anfrage, die ein eingesetztes Modell bedient, verbraucht Rechenleistung und Speicher –, sodass Effizienzgewinne direkt in niedrigere Kosten pro Anfrage umgesetzt werden und nicht als einmalige Einsparungen.
Die Reichweite des Projekts ist groß. vLLM unterstützt mehr als 500 Modellarchitekturen und über 200 Hardware-Beschleuniger, und mehr als 2.000 Beitragende haben daran gearbeitet. Amazon, Meta und Google setzen vLLM alle in ihren Produktivsystemen ein.
Inferact plant, bezahlte Dienste auf das Open-Source-Projekt aufzusatteln. Dazu gehören Serverless-Angebote, bei denen Kunden Modelle ohne eigene Serververwaltung betreiben können, sowie leistungsfähigere Observability-Tools zur Überwachung des Verhaltens von Deployments. Das Unternehmen sagt, sein Fokus liege auf der Abstimmung der Inferenz über drei Stellgrößen: Kosten, Latenz und Durchsatz.
Vom Berkeley-Labor zum 800-Millionen-Dollar-Startup
vLLM begann 2023 am Sky Computing Lab der UC Berkeley, das von Ion Stoica geleitet wird, einem Mitgründer von Databricks. Stoica ist auch Gründungsmitglied von Inferact. Zum restlichen Gründungsteam gehören Simon Mo als CEO sowie Woosuk Kwon, Kaichao You und Roger Wang.
Im Mai 2025 wurde vLLM ein Projekt der PyTorch Foundation. Die Stiftungs-Governance hält die Roadmap herstellerneutral – ein Detail, das kommerziell relevant ist, da Anwender auf vLLM standardisieren können, ohne von einem einzelnen Anbieter abhängig zu sein. Inferact wurde später im Jahr 2025 gegründet mit dem erklärten Ziel, vLLM zu kommerzialisieren und zu skalieren, während das Open-Source-Modell erhalten bleibt.
Bis Oktober 2026 leistet Inferact weiterhin Upstream-Beiträge zu vLLM, darunter frühe Optimarbeiten für NVIDIAs Vera-Rubin-Hardware. Diese Bemühungen haben auf spezifizierten Modellen Durchsatzverbesserungen von bis zu 7,8-fach erbracht.
Was das für den KI-Infrastrukturmarkt bedeutet
Das Kommerzialisierungs-Spielbuch für Open Source ist vertraut. Databricks baute ein Geschäft rund um Apache Spark auf, ein weiteres Projekt mit Berkeley-Wurzeln, und Inferact zieht ein ähnliches Spiel durch – mit einem Gründungsmitglied, das das bereits einmal geschafft hat.
Mit Unterstützung für mehr als 200 Beschleuniger positioniert sich vLLM als eine Schicht, die chipübergreifend funktioniert. Große Cloud-Anbieter betreiben vLLM bereits selbst, verfügen über tiefe Geldbeutel und eigene verwaltete KI-Dienste. Inferacts erklärter Vorteil ist Expertise: Die Menschen, die die Codebasis am besten kennen, arbeiten nun unter einem Dach.
Wie es weitergeht, hängt von praktischen Fragen ab: ob das neue Kapitel – genauer: das neue Kapital – Upstream-Arbeiten wie die Vera-Rubin-Optimierungen beschleunigt, wie das Unternehmen Dienste bepreist, die Kunden andernfalls selbst hosten können, und ob die Cloud-Riesen, die vLLM bereits betreiben, bei seinen Maintainern einkaufen oder weiter verwaltete Alternativen in-house entwickeln. Diese Dynamiken zeigen – mehr als die Schlagzeilen-Bewertung –, ob sich das Databricks-Spielbuch auf die Inferenz übertragen lässt.
