Vercel meldt dat open-weight modellen in augustus goed waren voor 62% van het verkeer via AI Gateway
Belangrijkste punten
- •Open-weight modellen stegen van 11% van Vercel’s tokenvolume in april naar 62% op 22 augustus.
- •Vercel zei dat de cijfers afkomstig zijn van de AI Gateway en echte productieworkloads van bedrijven weerspiegelen.
- •Open-weight modellen kunnen ongeveer een tiende kosten van closed-source alternatieven, wat de verschuiving in verkeer helpt verklaren.
- •Anthropic’s gesloten modellen waren in recente perioden nog steeds goed voor 61% tot 65% van de uitgaven op de gateway.
- •DeepSeek heeft Google ingehaald in Vercel’s aandeel in tokenverwerking.
Twee maanden geleden waren open-weight AI-modellen nog een minderheid op Vercel’s infrastructuur. Nu domineren ze het beeld, althans qua volume.
Vercel-CEO Guillermo Rauch zei op 22 augustus dat open-weight modellen goed waren voor 62% van alle tokens die via Vercel’s AI Gateway werden verwerkt, tegenover 28,4% op 24 juni.
Snelle groei in tokenaandeel
Open-weight modellen waren in april goed voor slechts 11% van Vercel’s tokenvolume. In juni was dat opgelopen tot 29%. Eind augustus was het voorbij 62%.
Vercel’s AI Gateway fungeert als een routing- en verkeersmanagementlaag voor AI-aangedreven toepassingen, waardoor de cijfers echte productieworkloads van echte bedrijven weerspiegelen, en niet benchmarktests of laboratoriumomstandigheden.
De verschuiving is belangrijk omdat tokenaandeel en bestedingen in dollars niet gelijk oplopen. Open-weight modellen kunnen tegen ongeveer een tiende van de prijs van hun closed-source tegenhangers draaien, wat helpt verklaren waarom ondernemingen grotere hoeveelheden routinematige of hoogdoorvoer-taken naar deze modellen kunnen routeren, terwijl premium modellen gereserveerd blijven voor workloads waarvoor de extra kosten gerechtvaardigd zijn.
De bestedingsparadox
Ondanks een aandeel van 62% in het tokenvolume, vertegenwoordigen open-weight modellen niet 62% van de uitgaven.
Anthropic’s gesloten modellen namen in recente verslagperioden tussen 61% en 65% van de totale uitgaven op de gateway voor hun rekening. Claude verwerkt een minderheid van de tokens, maar genereert een meerderheid van de omzet.
DeepSeek is naar de top, of bijna de top, van Vercel’s ranglijst voor tokenvolume gestegen en heeft Google ingehaald in verwerkingsaandeel.
Wat dit breder betekent voor AI-uitrol
Grote bedrijven waaronder AT&T en Coinbase zijn genoemd als organisaties die kostenreductiestrategieën in AI-uitrol benadrukken, wat aansluit bij precies het soort workload-routering dat uit de Vercel-data naar voren komt.
