卡內基美隆大學的一篇新研究論文主張，預訓練、微調與強化學習可以作為單一演算法執行，而非三個獨立的訓練階段。

大多數基礎模型——即作為許多AI系統基礎的大型通用模型——的建構方式就像一套三道菜的餐點：先預訓練，再微調，最後以強化學習收尾。卡內基美隆大學的這項研究認為，這幾道菜或許放在同一個盤子裡效果更好。

這篇名為《Training Foundation Models with a Single Algorithm》的論文於2026年10月29日上傳至arXiv，這是一個常見於正式同儕審查前發表研究的預印本伺服器。第一作者是卡內基美隆大學的Yuda Song，他與約翰霍普金斯大學及Aurora Innovation的合作者共同完成研究。根據這項研究，將三種訓練資料融合為一個統一方法，可以超越傳統的分階段做法。

研究人員實際做了什麼

核心概念是一次重新框架。研究團隊將每個訓練階段都視為對模型生成資料的最大概似擬合。

這個轉變把關鍵決策帶到了新的位置。這個框架不再採用僵硬的獨立階段序列，而是將重點放在資料組成與排程上。從這個角度看，預訓練、微調與強化學習之間的差異，變成「使用哪些資料、何時使用」的問題，而非「套用哪種演算法」的問題。靜態資料集——即用於預訓練與監督式微調的資料——與強化學習中使用的資料管理方式融合在一起，一切都透過同一個訓練框架進行。

目前的結果

根據論文，統一方法改善了準確度與運算量之間的權衡。實際而言，模型在相同的運算預算下產出了更高的效能。

該方法也在多項指標上優於分階段訓練，包括分布內評估、泛化能力以及持續學習的就緒度。研究人員也指出，統一訓練有助於模型在多項任務上保留更廣泛的能力。

這個框架免除了為每個訓練階段分別建置基礎設施的需求，作者表示這整體上簡化了訓練系統。實驗涵蓋了約1.24億參數與約7.6億參數的模型——這些規模遠低於通常被稱為基礎模型的最大型模型，因此論文的支持證據僅來自模型規模光譜中相對有限的區段。

為什麼會有三階段的訓練配方

分階段的流程之所以成為標準，是因為每個階段似乎各有不同任務。預訓練建立廣泛知識，微調教導模型遵循指令，強化學習則將模型行為塑造為朝向偏好的結果。

卡內基美隆大學的論文直接挑戰了這種區分。該研究被描述為首個公開提出、並有實驗支持的統一訓練框架。

作者更進一步主張，這樣的框架可能為理解模型能力如何湧現、以及模型演進時如何保留這些能力，開啟新的途徑。

這對AI開發者意味著什麼

截至2026年10月30日，這項研究尚未產生值得注意的商業應用或市場夥伴關係。討論主要停留在學術界內，聚焦於單一訓練系統對模型開發可能代表的意義。論文所述對開發者的實際意涵在於，單一訓練框架可望取代目前為每個階段分別建置的系統。就現況而言，這項工作仍是一項研究結果，而非已部署的技術。

對於追蹤這項研究的人而言，從論文目前的狀態可得出兩個具體觀察指標：它尚未經過正式同儕審查，且其報告的實驗僅止於上述參數規模。隨著研究流傳，獨立重現與更大規模的後續研究將是可見的檢核點。