卡内基梅隆大学的一篇新研究论文提出，预训练、微调和强化学习可以作为单一算法运行，而不是三个独立的训练阶段。

大多数基础模型——即作为许多AI系统基础的大型通用模型——的构建方式就像一顿三道菜的套餐：先预训练，再微调，最后以强化学习收尾。卡内基梅隆大学的这项研究提出，这些“菜品”放在同一个盘子里或许效果更好。

这篇题为《Training Foundation Models with a Single Algorithm》的论文于2026年10月29日发布在arXiv上，这是一个研究普遍在正式同行评审之前发布成果的预印本平台。其第一作者是卡内基梅隆大学的Yuda Song，合作者来自约翰斯·霍普金斯大学和Aurora Innovation。根据该研究，将三种类型的训练数据融合为一种统一方法，其效果可以超过传统的分阶段方法。

研究人员具体做了什么

其核心思想是一种重新表述。研究团队将每个训练阶段都视为对模型生成数据的最大似然拟合。

这一转变把关键决策引向了新的位置。该框架不再采用刚性分隔的阶段序列，而是将重点放在数据构成与调度上。在这种视角下，预训练、微调与强化学习之间的区别，变成了“使用哪些数据、何时使用”的问题，而非“应用哪种算法”的问题。静态数据集——即预训练和监督微调中使用的那类数据——与强化学习中使用的数据管理方式合并在一起，一切都通过同一个训练框架运行。

目前的结果

根据论文，统一方法改善了准确率与算力之间的权衡。实际而言，模型在相同的处理预算下获得了更高的性能。

该方法还在多项指标上优于分阶段训练，包括分布内评估、泛化能力以及持续学习的就绪度。研究人员还报告称，统一训练帮助模型在众多任务上保留了更广泛的能力。

该框架不再需要为每个训练阶段单独构建基础设施，作者表示这整体上简化了训练系统。实验涵盖了约1.24亿参数和约7.6亿参数的模型——这一规模远低于通常被描述为基础模型的最大模型，因此论文的支持性证据来自模型规模谱系中相对较小的一段。

三阶段配方为何存在

分阶段流水线之所以成为标准，是因为每个阶段似乎承担着不同的任务：预训练构建广泛的知识，微调教会模型遵循指令，强化学习则将模型行为塑造成偏好的结果。

卡内基梅隆大学的论文直接挑战了这种分离。该研究被称为首个有支持性实验佐证的统一训练框架的公开呈现。

作者更进一步提出，这样的框架可以为理解模型能力如何涌现、以及这些能力在模型演化过程中如何保留开辟新的途径。

这对AI开发者意味着什么

截至2026年10月30日，该研究尚未产生显著的商业应用或市场合作。相关讨论主要停留在学术界，聚焦于单一训练系统对模型开发可能意味着什么。论文所述的对开发者的实际意义在于，单一训练框架可以取代目前为每个阶段分别构建的系统。就目前而言，这项工作仍是一项研究成果，而非已部署的技术。

对于关注这项工作的人来说，基于论文当前状态有两个具体观察点：它尚未经过正式同行评审，且其实验规模止于上述参数量级。随着研究传播，独立复现和更大规模的后续研究将是值得关注的里程碑。