VentureBeat调查发现:企业扩展AI基础设施的速度远超其衡量成本的能力
要点速览
- •仅21%的受访企业在大规模生产环境中运行AI,但45%计划在未来一年内评估AI专用云,尽管目前几乎无人使用。
- •64%的企业打算在十二个月内更换或增加基础设施提供商,其中38%计划在下一季度内完成。
- •运营GPU的企业中有83%报告利用率在50%或以下,仅12%超过半数利用率。
- •与现有系统的集成性以41%位居采购标准首位,其次是总拥有成本(35%),而每百万Token成本仅对8%的买家重要。
- •不到一半的企业(44%)严格追踪其AI计算的成本和回报,尽管总拥有成本是其第二高的购买优先事项。

在107家企业中,AI基础设施支出的增长速度远超企业理解和管理其经济效应的能力。大多数公司目前在熟悉的平台上运行AI:超大规模云平台和模型提供商API。然而,他们的下一笔支出正转向几乎无人使用的专用计算服务。大多数企业预计在未来一年内更换或增加基础设施提供商,其中许多计划在一个季度内完成。
采购决策更多由与现有系统的集成性和总拥有成本驱动,而非表面Token价格。这一点值得注意,因为大多数企业仍缺乏对其单位经济效应的清晰可见性。GPU的利用率通常在一半或以下,不到一半的受访者严格追踪其AI计算的实际成本。根据本期VentureBeat Pulse Research,其结果是一个不断扩大的计算鸿沟:快速且大规模的基础设施投资走在测量体系之前,而后者才是控制投资所必需的。这一模式呼应了早期的云采用周期——支出超过了财务治理——但AI计算加剧了这种压力,因为GPU容量远比传统云资源昂贵,且其需求一直处于供应受限状态。
该研究考察了企业AI基础设施和计算,包括企业在AI部署旅程中的位置、当前使用哪些提供商和平台、满意度如何、什么因素会促使他们更换提供商、计划在哪里评估新投资,以及他们能在多大程度上衡量和管理AI系统底层计算的经济效应。
核心发现是企业投资AI基础设施的力度与它们能看到的经济学信息之间的差距。仅约五分之一的受访者(21%)表示他们在大规模生产环境中运行AI。即便如此,支出计划已超出这一成熟度水平:企业最常提到的明年计划评估领域是AI专用云,占45%,尽管目前几乎没有这些企业在使用这一层级。与此同时,现有计算能力利用率不足:83%的受访者报告GPU利用率为50%或以下,仅44%的企业能严格追踪AI计算成本。企业获取基础设施的速度已超过其核算现有资产的能力。
供应商关系也尚未稳定。明确的多数(64%)计划在12个月内更换或增加基础设施提供商,其中38%计划在下一季度内完成。对于计算这样的基础类别而言,如此高的预期流失率不同寻常。当企业选择提供商时,首要标准是与现有技术栈的集成性(41%)和总拥有成本(35%)。每百万Token成本仅是8%企业的决定因素。与此同时,下一个可能塑造基础设施选择的技术约束——随着推理规模扩大,从GPU计算向内存带宽的转变——仍处于许多企业规划之外,约五分之一的企业要么未意识到这一约束,要么尚未着手应对。
方法论
VentureBeat将其持续进行的Pulse Research系列的一部分开展了此次调查。本期重点关注企业AI基础设施、计算和推理经济学。受访者筛选条件为员工超过100人的组织,最终n=107。最小的规模分组——员工1–100人的公司——被排除在外。回复来自2026年第二季度6月的单次调查。
由于调查结果基于一次调查而非多月汇总样本,报告应横向阅读,不推断环比趋势。部分问题允许多选,因此某些比例合计可能超过100%。
按组织规模划分,样本集中在中端市场。员工101–250人的公司占36%,其次是251–1,000人占27%、1,001–5,000人占22%、5,001–10,000人占8%,以及10,001人以上占7%。按职能划分,受访者包括经理(38%)、个人贡献者(28%)、副总裁和总监(19%),以及高管层(13%)。样本具有可信的采购决策权:45%为最终决策者,另有30%为AI解决方案的推荐者或影响者。
技术/软件是占比最大的行业,为26%,其次是医疗/生命科学(15%)、金融服务(13%)和零售/电商(12%)。
在107名受访者的情况下,样本量足以提供方向性洞察,但应作为方向性信号而非精确测量来对待。样本为自选参与,非概率抽样。它也偏向中端市场组织和早期采用者。因此,结果最好被理解为积极建设AI基础设施的组织的视角,而非最大超大规模运营商的观点。
发现1:雄心领先于生产成熟度
仅五分之一的企业在大规模生产环境中运行AI。
VentureBeat询问了各组织在AI部署旅程中的位置。大多数仍处于向生产环境建设的过程中,而非大规模运营AI。
成熟度曲线严重偏向早期阶段。四分之三的企业(76%)要么在实验阶段,要么仅运行部分生产工作负载。仅21%表示AI已在大规模生产环境中运行。这一背景对后续发现至关重要:调查中反映的许多基础设施决策是由仍处于部署早期的组织做出的,其计算足迹和成本可能还会增长。发现3和发现4中讨论的评估和更换意图代表了这一建设的前沿,而非已确定有效方案的运营商的稳定偏好。
发现2:企业目前依赖超大规模云和模型API
专用GPU云在今天几乎不存在。
VentureBeat询问了企业当前使用哪些提供商和平台来运行AI。答案主要是现有的云和模型生态系统。
当前技术栈以超大规模云和API为中心。Google Cloud以48%领先。通用型云——Google、Microsoft、AWS和Oracle——连同主要模型API(如Gemini、OpenAI和Anthropic),基本覆盖了所有当前部署。在AI基础设施讨论中频繁出现的专用"新云"GPU提供商——包括CoreWeave、Lambda、Crusoe、Nebius及同类企业——在这些企业中的使用率接近或为零。这些提供商构建了专为AI训练和推理设计的GPU密集型数据中心,通常提供在通用型云上难以预约的高需求加速器的保障访问权——这一价值主张已吸引了数十亿美元的资本投入该类别。然而,这些企业的采用尚未实质化。仅6%运行自己的本地GPU集群,4%使用定制开源技术栈。
目前,企业在他们已有的供应商上运行AI。这使得发现3中的评估意图更加值得关注。
关于如何解读这些比例的说明:如方法论所述,该样本为自选参与,偏向中端市场。提供商问题统计了每位受访者使用的每个提供商,平均每人选择2.1个。因此,这些数字衡量的是技术栈中的存在感,而非支出份额或主要提供商地位。以这种方式构建的样本将产生与市场整体支出加权普查不同的提供商组合。例如,Google在本样本中的强势地位,与其在基于AI进行建设的较小企业中的长期地位一致。这些比例应被视为当前这批AI活跃群体使用情况的快照,这些数字与行业整体市场份额估计之间的差距应被视为样本的特征,而非矛盾。
发现3:新支出指向企业几乎未曾使用的基础设施
AI专用云位居计划评估清单之首。
VentureBeat询问了企业计划在未来12个月内在哪些领域评估AI基础设施。他们的答案指向远离当前运营的技术栈。
报告中最突出的矛盾是:AI专用云是最常被提及的计划评估领域,占45%,尽管如发现2所述,几乎没有这些企业目前使用该类别。近三分之一(32%)计划评估非Nvidia加速器,28%计划评估下一代Nvidia芯片。去中心化计算网络吸引了16%的兴趣,主权计算吸引了11%。
与当前使用情况相比,这些计划评估不仅仅是增量性的。它们标志着潜在平台迁移的前沿。趋势方向问题也指向同一方向:每种基础设施方式都在净扩张,但AI专用云的净增势最高,为+24,略高于超大规模云的+22。企业正准备将相当一部分AI计算从通用型云基础设施中迁移出来。
这一模式延续了VentureBeat在4-5月调查波次中观察到的趋势。当时,AI专用云的使用同样微不足道:CoreWeave被3%的企业使用,Lambda被4%,Crusoe被2%。当企业被问及未来12个月计划在AI基础设施策略中做出什么改变时,最常见的答案是迁移到专用AI云,占33%。当4-5月的受访者被问及最可能评估哪种新兴计算选项时,AI专用云再次获得了最多的回应。两次调查波次、两个不同表述的问题,呈现出一致的画面:企业最渴望评估的云类别,恰恰是他们几乎尚未开始使用的类别。
发现4:许多企业预计将更换提供商
六成计划在一年内更换或增加提供商,许多预计在一个季度内行动。
VentureBeat询问了企业是否以及何时计划更换或增加基础设施提供商。很少有受访者计划维持现状。
对于计算这一类别而言,这种预期的变动幅度非常显著。仅36%表示没有变更计划。这意味着64%打算在12个月内更换或增加提供商,38%计划仅在下一季度内就采取行动。
吸引最多更换考虑的提供商同样是现有企业。Microsoft Azure和Google Cloud各吸引33%,其次是OpenAI(30%)和Gemini(22%)。这表明近期的大部分变动是主要供应商之间的重新洗牌和支出整合,而非转向新进入者。发现3中描述的新云兴趣主要是12个月的评估假设;预计下一季度的提供商变更似乎主要是现有供应商之间的份额转换。
方法说明:同时选择"无变更计划"和特定更换时间窗口的受访者被计为更换者,其逻辑是指定时间范围是更具体的答案。三名受访者根据此规则被重新分类。
发现5:Token价格并非主要采购因素
集成性和总拥有成本的权重高于标价。
VentureBeat询问了企业在选择AI基础设施提供商时最重要的因素。表面价格排名最后。
企业购买AI基础设施时,并非主要依据供应商最常强调的定价指标。与现有技术栈的集成性以41%领先,其次是总拥有成本(35%)。每百万Token成本这一表面指标仅是8%企业的决定因素,在所列标准中排名最低。
这一模式是一致的:买家优化的是提供商如何融入其运营环境以及实际运行成本,而非关注标称的单位费率。仅Token定价掩盖了完整的成本全貌,后者还包括网络、数据出口、模型权重和训练数据的存储、闲置容量开销,以及集成和维护流水线的工程投入。这也指向发现7——企业表示总拥有成本是核心决策因素,但大多数还无法严格衡量它。他们声称的优先事项与其实际测量能力并不一致。
发现6:昂贵的GPU经常被低效使用
83%报告GPU利用率为50%或以下。
VentureBeat询问了企业实际使用了多少GPU容量。答案揭示了一种广为人知但很少被量化的低效现象。
披露:各区间百分比统计了107名合格受访者中的每一项选择。14名受访者选择了多个区间,因此区间存在重叠。在受访者层面,100家运营GPU的企业中有83家报告利用率在50%或以下。
已部署的计算正在低于产能运行。将利用率在半数及以下的区间相加,运营GPU的企业中有83%报告利用率为50%或以下。近一半(49%)在25%或以下运行。仅12%超过50%利用率,另有8%完全不测量利用率。
闲置的加速器是昂贵的资产。在超大规模云平台上,按需访问单块高端GPU(如Nvidia H100)每小时可能花费数美元,而企业工作负载通常需要多GPU实例,使每小时成本大幅提高。在这些价格点上,持续低于50%的利用率直接转化为大量的经常性浪费。这是计算鸿沟最清晰的单一衡量指标之一:企业计划购买更多GPU和专用计算(如发现3所示),而其已运营的容量仍大量闲置。当前设备存在巨大的效率提升空间,而其中大部分尚未被测量。
发现7:支出速度快于测量速度
不到一半的企业严格追踪计算成本。
VentureBeat询问了企业是否能量化其AI基础设施支出的成本和回报,以及他们对所使用基础设施的满意度。结果显示,财务可见性滞后于投资。
测量滞后于支出。不到一半的企业(44%)严格追踪其AI计算的成本和回报。其余企业要么仅部分追踪(39%),要么尚无法量化(20%),要么尚未将其列为优先事项(6%)。AI计算成本分布在计算、内存、网络和数据出口中,其模式不同于传统云工作负载,而共享GPU集群使得将支出归因于具体团队、项目或业务成果变得困难——这是云FinOps领域仍在扩展覆盖的测量挑战。
这一差距很重要,因为在发现5中总拥有成本是第二重要的购买标准。企业正在基于一种大多数企业还无法严格衡量的经济基础来选择供应商。
对当前基础设施的满意度中等偏正面,但并不强烈。在五分制评价中,整体满意度平均为4.0。实施便利性平均为3.8,性价比平均为3.9。性价比方面的较弱结果值得关注,因为在缺乏规范测量的情况下成本难以评估。企业支出快速而核算缓慢。
发现8:许多企业尚未关注下一个推理瓶颈
随着推理从计算转向内存,回答分散不一。
最后,VentureBeat询问了企业将如何应对大规模推理中的新兴约束:从GPU计算转向内存,特别是KV缓存容量。回答表明,这一前沿领域尚未成为许多组织的主要运营优先事项。
内存约束是真实的,但相关治理有限。随着生产模型支持128,000 Token或更长的上下文窗口,存储中间推理状态(KV缓存)所需的内存随上下文长度和并发用户数量增长而增长,产生了原始GPU计算无法解决的压力。当被问及随着推理约束从计算转向内存带宽时将依赖哪种方法,企业的回答不一。Dell以31%领先,其次是Nvidia(16%)。其余回答分散在各种存储供应商、开源工具和模型层面的效率技术中。
最值得注意的是,约五分之一的企业(18%)要么不认识这一约束,要么尚未开始应对。对于一个将影响推理成本和架构的转变而言,市场仍处于早期且未定型阶段。与发现7中的测量差距一致,许多企业尚没有明确的看法。这是计算鸿沟的下一阶段,在许多组织解决当前问题之前就已经到来。
结论:更快的支出可能扩大而非缩小计算鸿沟
拥有100名以上员工的组织在AI基础设施上的投资速度超过了其衡量能力。大多数仍处于部署早期,但其支出计划已指向当前技术栈之外——转向专用云和替代加速器,而这些几乎无人使用。明确多数的企业打算在未来一年内更换提供商。
他们的采购逻辑关注集成性和总拥有成本而非表面价格,这是一种务实的做法。问题在于,许多企业尚无法清晰看到这些经济效应。
可见性差距是具体存在的。对于绝大多数运营GPU的企业,利用率在半数或以下。不到一半的企业能严格追踪其AI计算的成本或回报。满意度尚可但不热情,在性价比方面最弱——这是在没有测量的情况下最难判断的维度。
与此同时,下一个约束——大规模推理中从计算向内存的转变——正在许多企业仍不知情或尚未着手应对时到来。一个不断增长的成本可观测性和GPU调度工具生态系统正在出现以解决测量差距,但企业是否会在投入下一层基础设施之前采纳这些能力,仍是一个悬而未决的问题。在单次第二季度调查波次中,107名受访者提供了一个方向性参考。它偏向中端市场和早期采用者。但方向是一致的:支出意愿走在了有效支出所需的测量工具之前。
计算鸿沟不仅仅是靠更多硬件就能解决的产能问题。它首先是一个理解硬件当前成本的问题。后续的调查波次将显示,企业是否会在平台迁移加速之前建立这种可见性——还是会以与上一层基础设施同样有限的经济学视野购买下一层基础设施。
调查结果基于来自107名合格企业受访者(所在组织拥有100名以上员工)的调查回应,来自2026年第二季度6月的单次调查波次。由于这是一次波次而非多月汇总样本,结果为截面性而非环比趋势。在107名受访者的情况下,调查结果应作为方向性信号而非精确测量来对待。样本为自选参与,偏向中端市场,倾向于早期采用者而非最大的超大规模运营商。受访者包括经理、个人贡献者、副总裁和总监以及高管层,在技术/软件、医疗/生命科学、金融服务、零售/电商和其他行业具有可信的采购决策权。