新闻宏观经济AI 代币经济:企业为何在账单到来前需要 AI FinOps

AI 代币经济:企业为何在账单到来前需要 AI FinOps

作者: Bworldonline·

要点速览

  • •企业级 AI 成本正从固定订阅转向按 token 计量的用量消费,类似云计算账单演变的路径。
  • •作者预计将出现“AI FinOps”这一新实践,用于让 AI 支出透明、可问责,并与业务价值挂钩。
  • •AI 智能体可能让一次员工请求触发多次模型调用,使仅按用户数量预算变得不够。
  • •AI 支出真正应衡量的是每个有用结果的成本,而不是每个 token 的成本,因为最便宜的模型未必最合适。
  • •缓存、缩短提示词、选择性检索文档以及 AI 网关模型路由等消耗控制手段,主流 AI 和云平台已在支持。
AI 代币经济:企业为何在账单到来前需要 AI FinOps

在过去两年里,企业一直在要求员工使用人工智能。很快,他们将开始提出一个不同的问题:这些 token 的费用由谁来承担?

这件事在今天看起来似乎并不重要,因为大多数员工接触 AI 的方式,还是每月订阅 ChatGPT、Claude 或其他 AI 工具。成本看起来很可预测:购买许可,分配给员工,并将金额纳入 IT 预算。

但企业级 AI 的发展方向并不是这样。

随着企业将 AI 嵌入客户服务、销售、营销、软件开发、法律工作、财务、分析和内部流程,AI 会越来越不像传统软件,而更像一种公用事业。你使用得越多,付费就越多。而且,这个“计量器”越来越以 token 为单位。

来自云计算时代的熟悉故事

企业界并不陌生。十多年前,企业曾迅速拥抱云计算。Amazon Web Services、Microsoft Azure 和 Google Cloud 提供了企业 IT 长期以来想要的东西:无需购买服务器和建设数据中心即可获得计算资源。

启动虚拟机,增加存储,扩展容量,按实际使用量付费。

这听起来效率极高——直到账单到来。

开发人员创建了服务器却忘记关闭;测试环境持续运行数月;存储不断累积;各部门在没有中央监督的情况下购买云服务。每一项决策都只涉及几美元时,没人太在意。

但把成千上万这样的决策放在一起,CFO 就会开始关注。

那段痛苦的时期催生了 FinOps,这是一门围绕让云支出可见、可问责并与业务价值挂钩的学科。作者认为,AI 也即将经历同样的过程——可以称之为 AI FinOps。

从采用指标走向消耗指标

如今,企业关注的是 AI 采用情况:有多少员工在使用 ChatGPT?启动了多少个 AI 项目?有多少流程可以自动化?

这些都是有用的问题,但新的问题也会随之而来。我们消耗了多少 token?哪些部门在消耗?哪些应用产生了最多使用量?使用了哪些模型?一次 AI 辅助交易的成本是多少?更重要的是,我们为这笔钱带来了什么业务结果?

Token 只是 AI 模型处理的一小单位文本。但从经济角度看,企业应该开始像看待云中的计算小时、存储和网络流量那样看待 token,把它们视为消耗单位。主要模型提供商已经公布按使用量计费的价格,通常按每百万输入和输出 token 报价,这使得这种计量式核算在技术上今天就可实现——缺少的通常只是对组织内部“谁消耗了什么”的可见性。

设想一家企业每月使用 AI 处理 500,000 次客户互动,每次互动平均消耗 4,000 个输入 token 和 800 个输出 token。管理层可以估算月度总量,并乘以适用的模型价格。现在将客户量提高 20%,再增加一个 AI 应用,给更多员工开放权限,并引入一个需要多次模型调用才能完成单项任务的 AI 智能体。预算就可能迅速变化。

为什么智能体会改变方程式

当 AI 智能体出现时,这一问题会变得更加严重。一个人提出一个问题,得到一个答案;而智能体可能接收一个指令,将其拆分为多个任务,搜索文档,调用不同系统,检查结果,并反复调用 AI 模型。一次员工请求,可能悄然变成多笔 AI 交易。

这就是为什么仅按 AI 用户数量来预算,最终会变得不足。企业需要按应用、部门、工作流和业务成果来衡量 token。财务需要预测,IT 需要使用控制,业务部门需要问责。

营销部门在运行数百万条个性化消息时,应该知道自己的 AI 成本;呼叫中心应该知道每个已解决案例的 AI 成本;软件团队应该知道每项开发任务的 AI 成本;银行使用 AI 审查文件时,也应该知道每份已处理申请的成本。

关注有用结果的成本,而不是 token 成本

不过,AI FinOps 不应变成另一场企业削减成本的运动。最便宜的模型并不一定就是最好的模型。如果花 10 比索使用 AI 能节省 500 比索的员工时间,那么把 AI 成本降到 5 比索可能毫无意义。如果更昂贵的模型能减少错误并解决更多客户问题,那么多付一些钱反而可能是更好的决定。

正确的指标不是每个 token 的成本,而是每个有用结果的成本。

当然,也有一些显而易见的方式可以控制消耗。企业并不需要让最强大的模型处理所有任务——简单分类、提取和摘要,可能用较小的模型就能很好完成。

提示词可以缩短。与其反复把数百页文档发送给模型,不如有选择地检索文档。长对话可以被总结,重复的指令和上下文可以被缓存。应用程序可以设置 token 限额。AI 网关可以根据复杂度和成本,将任务路由到不同模型。与谈论自主智能体或通用人工智能相比,这些都不算令人兴奋。但 CFO 最终会让枯燥的事情变得重要。

云计算也经历了同样的路径:先是兴奋,然后采用,接着是失控支出,最后是治理。AI 很可能会走得更快。

接下来会发生什么

不难想象,企业很快会部署 AI 消耗仪表板,显示 token 使用量、每个工作流的成本、模型利用率、预算偏差和业务价值。部门可能会像获得差旅、营销或云预算一样,获得 AI 预算。最终,总会有人要对这一切负责。

那个人可能在财务、IT 或 AI 卓越中心。职位名称或许不同,但所做的事相同:AI FinOps。

企业现在就应该开始构建这项能力——在 AI 账单大到足以让 CFO 提出没人想回答的问题之前。

那些 token 都去哪儿了?

文中所述观点仅代表作者本人,并不一定反映其所在机构及 FINEX 的意见。

Reynaldo C. Lugtu, Jr. 是 Hungry Workhorse 的创始人兼 CEO,这是一家数字化、文化和客户体验转型咨询公司。他是美国 Institute for Digital Transformation 的 fellow。他担任 FINEX Academy 的 AI、数字化转型和治理项目主席,并在 De La Salle University 的 MBA 项目中教授战略管理和数字化转型。rey.lugtu@hungryworkhorse.com