两个月前,开放权重 AI 模型在 Vercel 的基础设施中还只是少数角色。如今,按处理量计算,它们已处于领先地位。

Vercel 首席执行官 Guillermo Rauch 于 8 月 22 日表示,开放权重模型占 Vercel AI Gateway 处理全部 token 的 62%,而 6 月 24 日这一比例为 28.4%。

token 份额快速增长

4 月份,开放权重模型仅占 Vercel token 处理量的 11%。到 6 月,这一数字已升至 29%。到 8 月下旬,已突破 62%。

Vercel 的 AI Gateway 是面向 AI 应用的路由与流量管理层,因此这些数据反映的是真实企业的生产工作负载,而非基准测试或实验室环境。

这一转变之所以重要,是因为 token 份额与美元支出并不同步。开放权重模型的运行成本大约只有闭源模型的十分之一,这有助于解释为什么企业可能将更大规模的常规或高吞吐任务路由至开放权重模型,同时仍将高端模型保留在那些额外成本物有所值的工作负载上。

支出仍然集中

尽管开放权重模型占 token 处理量的 62%,但它们并不代表 62% 的支出。

在最近的报告期内,Anthropic 的闭源模型占网关总支出的 61% 至 65%。Claude 处理的 token 占少数,却创造了大部分收入。

DeepSeek 已升至 Vercel token 处理量排行榜的榜首或接近榜首的位置,在处理份额上超过了 Google。

更广泛的企业部署趋势

包括 AT&T 和 Coinbase 在内的多家大公司被指出正在强调 AI 部署中的成本削减策略,这与 Vercel 数据所反映的工作负载路由模式相符。对开发者和平台运营商而言,这一趋势表明模型选择正日益因工作负载而异:即使支出仍集中在少数价格更高的模型上,处理量也可以向成本更低的开放权重系统转移。