微软研究人员找到一种方法，让更廉价的AI模型超越其自身昂贵的推理模式，而这一技巧的成本大约只相当于一杯拿铁咖啡。

8月11日发表的一篇题为《Reason Wide, Not Deep: Amortizing the Reasoning Premium into Distilled Skills》的论文，介绍了一种被动技能蒸馏方法，可从少量任务示例中提取紧凑的规则集。这些规则以纯Markdown格式编写，被注入模型的系统提示词中，实际上是在教模型走捷径，从而绕过代价高昂的思维链推理。本案例的目标模型是GPT-5.4-mini，该模型于今年3月发布。

这一成果的意义远不止一次基准测试的胜利。推理模式会推高推理成本，因为它们在给出答案之前会生成很长的中间token链，而token输出是大规模AI服务商的主要成本来源。将输出token减少数倍——同时保持或提升准确性——将直接改变在生产环境中运行智能体工作负载的经济学，因为同一任务可能被执行成千上万甚至数百万次。

工作原理

该过程看似简单。一个编码智能体会审查35至50条任务轨迹，即模型如何处理（有时如何失败于）特定任务的记录。智能体从这些轨迹中蒸馏出一份40至130行的自然语言“技能”文档。这些不是抽象的嵌入向量，也不是微调后的权重调整。它们是可读、可审计的规则，源自成功与失败的经验。

这种可读性与目前将领域知识融入模型的两种主流方式有着重要区别：一是微调，需要训练运行和专用硬件；二是不透明的检索或基于嵌入的方法。由于蒸馏出的知识以纯文本形式存在，开发者可以像检查、编辑和版本控制任何其他提示词资产一样对待技能文档——无需MLOps流水线。

当这份技能文档被融入非推理模型的系统提示词后，有趣的事情发生了。该模型恢复了通常存在于推理模式与非推理模式之间55%至超过100%的性能差距。换句话说，廉价模式的表现开始接近昂贵模式——有时甚至更好。

生成每个领域技能文档的计算成本在1美元至3美元之间，且无需对模型进行任何重新训练。

基准测试结果

由Agamdeep Singh、Srishti Gautam、Priyanshu Gupta、Nikita Mehrotra、Tanmay Bakshi和Sumit Gulwani领导的研究团队，在四项智能体基准测试（包括ALFWorld和SpreadsheetBench-Verified）上评估了该方法。

在ALFWorld上，技能增强后的GPT-5.4-mini取得了0.787的得分，而完整推理模式的得分为0.713。这个更便宜、更快速的版本不仅缩小了差距——还超越了它。

在各基准测试中，技能增强模型使用的输出token比推理模式少2.7至6倍。更少的token也意味着更快的响应速度，这对于延迟决定用户体验的交互式智能体而言是一项实用优势。

基于SkillOpt的延伸

该论文直接建立在微软6月发布的SkillOpt框架之上，该框架将智能体技能重新定义为可训练参数，而非静态模型权重。SkillOpt在六项基准测试中为GPT-5.5带来了平均23.5分的提升，奠定了技能可以独立于底层模型进行优化的理论基础。

新的蒸馏方法将这一概念变得极其易于使用。由于技能文档只是通过系统提示词注入的Markdown文件，它们可与现有的部署策略配合使用——无需自定义推理基础设施，无需专用硬件，也无需重新训练。

对于从业者而言，悬而未决的问题是：随着底层模型的更新，蒸馏出的技能能保持多久的有效性，以及该方法在已测试的智能体领域之外能否推广——这些问题仅凭基准测试结果尚无法回答。