TokenMaxxing:如何充分利用高成本的 AI 模型
要点速览
- •Anthropic 与 OpenAI 旗下最昂贵模型的每 token 成本是其最小模型的一百倍,但许多用户对所有任务都默认使用旗舰模型。
- •Uber 在约四个月内耗尽了 2026 年 AI 工具预算;Meta 员工为争夺昵称“Claudeonomics”的内部排行榜,在 30 天内消耗了 60 万亿 AI token。
- •推荐的省钱习惯包括:按任务难度匹配模型规模、用一个清晰提示词代替多轮修改、缓存稳定指令,以及以 OpenAI 和 Anthropic 的五折价格批量处理 API 任务。
- •Nvidia CEO Jensen Huang 3 月表示,如果一名年薪 500,000 美元的工程师没有消耗至少价值 250,000 美元的 token,他会“深感不安”,此言助长了 tokenmaxxing 风潮。
- •Token 价格自 2023 年以来下跌超过 90%,但对大型语言模型的支出自 2025 年底以来翻倍——这是杰文斯悖论的例证;Bain 一份简报指出,token 成本减半的同时消耗量增长了 450%。

Anthropic 与 OpenAI 旗下最昂贵模型的每 token 成本是其最小模型的一百倍,然而许多用户无论任务大小都默认使用旗舰模型。
这种习惯的代价已不再是假设。Meta、Amazon 和 Uber 的使用排行榜推高了 AI 账单,Uber 在约四个月内烧光了 2026 年 AI 工具预算。今年早些时候,Meta 员工为争夺昵称为“Claudeonomics”的内部排行榜,在 30 天内消耗了 60 万亿 AI token。科技专栏作家 Gergely Orosz 按 Anthropic 牌价估算,这笔账单约为 9 亿美元,不过 Meta 实际支付的费用很可能低得多。
Bain & Company 顾问 Jue Wang 在许多机构中看到了这种浪费更为隐性的版本。她今年夏天接受美联社采访时表示,指 Anthropic 的高端模型时说:“太多公司、太多用户对所有事情都默认使用 Opus,包括撰写邮件。”如此行事,无异于雇 Albert Einstein 在麦当劳为你算找零。
你在 ChatGPT 或 Claude 中输入的每一个词,以及模型回复的每一个词,都以 token 计量——token 是平均约四分之三个词长的文本片段。在 20 美元的订阅中,这一计量决定你多快触及使用上限;在 API——开发者用于将模型接入自己应用的按 token 付费方式——上,它决定账单金额。
Anthropic 当前的价格表按每百万 token 收费,Haiku 的费率仅适用于 100,000 token 以内的提示词;更长的提示词费用为其五倍。旗舰模型的价格是最小模型的一百倍,OpenAI 的产品线也呈同样的价差,输入 token 为每百万 10 美元至 0.10 美元。
这些按 token 计的价格对实验室——以及其客户——累积得非常快。Anthropic 的收入年化运行率从 2025 年底的约 90 亿美元攀升至 5 月的超过 470 亿美元,而 OpenAI 正在打价格战以跟上步伐。
一些习惯能大幅削减这类支出,下面的前五条技巧完全无需编程。
Tokenmaxxing 是什么意思(以及它本应是什么意思)
maxxing 最初是一种硅谷式的炫耀,类似于 Meta 的 Claudeonomics,Microsoft、Shopify 和 Amazon 也以类似的 token 排行榜对员工进行排名。Nvidia CEO Jensen Huang 更是火上浇油,他在 3 月的“All-In”播客中表示,如果一名年薪 500,000 美元的工程师没有消耗至少价值 250,000 美元的 token,他会“深感不安”。
而他们确实烧掉了大量 token——常常消耗在毫无产出的琐事上。在 Amazon,有员工承认通过在与工作无关的任务上运行内部 AI 工具来虚报数字,直到一位高级副总裁告知员工:“请不要为了用 AI 而用 AI。”
本指南采用的是工程师们如今倡导的含义:最大化每个 token 的价值,而非消耗的数量——即 IBM 所描述的作为生产力指标的 tokenmaxxing。
三个概念可以解释 token 究竟流向了哪里,首先是代理循环。代理(agent)是一个能够使用工具的模型:它思考、搜索网页或运行代码、阅读结果,然后再次循环,直到它判断任务完成——每一轮都会重新发送整个对话。
编排(orchestration)会成倍放大这种成本。一个模型充当管理者,将请求拆分成若干部分,交给称为子代理(subagent)的工作模型,再把它们的答案拼接起来。每个工作模型都运行自己的循环并维护自己的记忆,这正是 Anthropic 表示 Claude Code 中的代理团队在队友以计划模式运行时,其 token 消耗可达标准会话约七倍的原因;计划模式是一项设置,将在下文的中级技巧中介绍。
图(graph)是开发者防止这些循环失控的方法。像 LangGraph 这样的框架允许开发者把工作流画成地铁图:车站(节点)执行工作,轨道(边)决定下一步去向,模型因此遵循固定路线,而不会一直循环直到耗尽思路或预算。
循环能自动化任务并提升质量,但也会烧钱——因此效率至关重要。
初级:小任务用小模型
1. 按任务选模型。 多数初学者通过图形界面使用 AI。点击聊天应用中的模型名称(ChatGPT 中位于聊天顶部,Claude 或 Hermes 中位于发送按钮旁),在邮件、摘要和改写等上切换到更小、更快的选项。把旗舰模型留给难度高的推理和决策——那些细微错误会造成真金白银损失的场景。用两个模型并排运行上周的五项任务;如果小模型通过了,就保留它。在订阅中,这能延长使用上限;在 API 上,它可将账单削减最多 99%。
2. 写一个好提示词,而不是五个糟糕的。 三轮“不,只要总数”或“改得更好更准确”每次都会重发整个对话。一个清晰的提示词应说明任务和答案的确切形式。类似这样就可以:
从下面的文本中提取发票号、日期、供应商和总额。每个值保持原样。每个字段返回一行,字段不存在时写“missing”。
OpenAI 自己的测试发现,更精炼、更清晰的提示词在消耗更少 token 的同时得分更高。
3. 换话题时开新对话。 模型在每次发送时都会重读整个对话,因此一个关于度假的 50 条消息线程会让你关于报税的问题同时变得更贵、更蠢。Anthropic 将这种劣化称为“上下文腐化(context rot)”。话题一变,就开新对话。
4. 指定你需要的篇幅。 在 Anthropic 和 OpenAI 的旗舰模型上,输出 token 的价格是输入的五倍。在提示词末尾加上“三个要点,100 字以内”或“只输出更改的行”之类的指令,模型就没有多少注水的空间。输出长度约束可以节省 token,尤其在写作或研究等创作型任务上,而非编程或数学等确定性任务。
5. 先试免费的,再付费。 OpenRouter 是一个通过单一账户连接数百个 AI 模型的网站,其免费路由可把请求发送到约 20 个零成本模型之一。你也可以用 LM Studio 或 Ollama 在配备 8GB 显存的显卡或 Apple M 系列芯片的 Mac 上本地运行模型。免费额度可能一夜之间消失,所以不要把重要项目建立在免费额度上,并且在粘贴任何敏感内容之前先阅读数据政策。话虽如此,免费额度是迭代的好方法:Hermes 提供了丰富的免费模型,可能足以胜任你的任务,Nvidia 也是如此。用一个免费但较弱的模型打磨提示词,总比付费让高端模型做同样但更快的事情划算。
更多初级技巧:简单问题跳过扩展思考,或在无法关闭思考的新版 Claude 模型上降低努力程度设置——Anthropic 会将完整的思考过程按输出计费,包括用户永远看不到的部分。开启了用量额度的 Claude Pro 和 Max 订阅者可以在 Settings 下的 Usage 中设置每月支出上限。
中级:你的代理读得太多了
从这里开始的示例使用 Claude Code——Anthropic 在终端中运行并可编辑文件的代理;命令直接输入其聊天框。其他工具的逻辑类似;如果你只用应用,技巧 8 在任何聊天窗口同样适用。
6. 从便宜的模型开始,失败再升级。 输入 /model 切换模型,将 Sonnet 设为默认,只有当 Sonnet 在某个具体任务上失败时才升级到 Opus,比如某个 bug 两次尝试都无法修复。对于简单的子代理任务,Anthropic 文档建议在子代理设置中指定 model: haiku。
7. 任务之间清空上下文。 切换到无关任务时输入 /clear——它不产生任何费用并清除旧历史。只有在确实需要历史时才使用 /compact 并附上要保留内容的说明,如 /compact keep the database decisions,因为压缩本身就是一次巨大的请求。
8. 让代码做枯燥的计算。 把一张 5,000 行的电子表格粘贴到聊天中,会让模型逐行阅读,而且它仍可能数错;语言模型再贵也不是计算器。改为让它给出公式或一段简短脚本,自己在本地运行,只把结果交给模型。
9. 精简你的工具。 MCP 服务器是将模型连接到 GitHub 或 Google Drive 等应用的插件,每一个都会在每次会话中添加工具名称和指令。输入 /context 查看是什么在占用空间,输入 /mcp 禁用项目用不到的服务器。
更多中级技巧:输入 /usage 查看 token 的去向;将 CLAUDE.md(或 Soul.md)——代理在每次会话开始时读取的指令文件——控制在 200 行以内。对于较大的改动,按 Shift+Tab 切换到计划模式,代理会先提出计划供你批准再触碰文件,一旦发现方向不对就按 Esc。使用 /effort 在重命名变量等简单任务上降低推理强度。Anthropic 展示过,当代理只加载所需的工具定义时,其 token 消耗从 150,000 降至 2,000——这也是 GitHub 的 gh 等命令行工具(运行前不产生任何费用)往往胜过常驻插件的原因。
高级:把护栏构建进系统
假设一位开发者需要处理 1,000 张每张 2,000 token 的发票,答案为 200 token:在不使用以下任何技巧的情况下,这项任务在 Fable 5.1 上成本约 30 美元,在 Haiku 5.5 上约 0.30 美元。
10. 缓存不变的部分。 把稳定的指令放在最前,变化的部分放在最后,并标记稳定块以进行缓存。在 Anthropic 的 API 中,只需多加一个字段:
"system": [{
"type": "text",
"text": "Your invoice instructions...",
"cache_control": {"type": "ephemeral"}
}]
从缓存读取的费用只是正常输入价格的一小部分,而写入默认的五分钟缓存则需额外付费。检查每次响应中的 cache_read_input_tokens 字段;如果首次调用后仍为零,说明缓存没有生效。
11. 能等待的都批量处理。 OpenAI 和 Anthropic 均以五折处理批处理任务,OpenAI 承诺在 24 小时内给出结果。将 1,000 张发票作为一个批次文件上传,而不是发起 1,000 次实时调用,账单会大幅下降。
12. 给代理拴上绳子。 为代理运行设置最大步数和美元上限,并在启动前定义“完成”的标准。Claude Code 支持 --max-budget-usd 标志用于脚本化运行;Shopify 使用熔断机制,当开发者的支出在一天内激增时可立即切断其访问,专为捕获失控代理而设计。目前的常态是放开代理让其循环,直到结果被认为完美;如果没有这样的预算,就不要让代理自行决定什么才算“完美”。
更多高级技巧:把关键事实放在长提示词的开头或结尾——一项由斯坦福主导的研究发现,模型对这两个位置的信息利用最好,而对埋在中间的信息利用最差。只有当错误代价高昂(如合同条款或付款金额)时,才值得付费让第二个模型检查工作。在 OpenAI 的 API 上,为每个项目开启硬性支出上限,因为其支出提醒只会通知你,并不会阻断流量。
从一个测试开始
将通过技巧 1 五项任务测试的最便宜模型设为一周的默认选择,只有在其失败时才切换。然后对比本周与上周的使用页面。在发票任务中,仅靠路由就把账单从 30 美元降至 3.90 美元——这还是在付费让 Opus 5.5 重做 300 个失败案例之后。
然而,仅靠更便宜的 token 并不够。根据 Silicon Data 的 Token Expenditure Index,单个 token 的价格自 2023 年以来下跌超过 90%,但对大型语言模型的支出自 2025 年底以来却翻了一倍。经济学家称之为杰文斯悖论:一种资源变得如此便宜,以至于人们最终在它身上的总支出反而更多。Bain & Co. 6 月的一份简报发现了同样的模式:2024 年 12 月至 2025 年间 token 成本减半,而 token 消耗量增长了 450%。
好消息是,一旦你不再把 token 当玩具烧,同样的降价就会为你所用。配合上述习惯,AI 会同时变得更便宜、更好。