北京大學、Google 與香港科技大學的研究人員提出了一種名為 Harness-Zero 的方法,可將專用 AI 代理框架的性能提升轉移到模型本身,使這些提升不再依賴外部鷹架。這項研究解決了當代代理工程的核心矛盾:代理的能力應有多少存在於模型權重中,又有多少存在於環繞其外的鷹架裡。

代理框架是管理語言模型如何與環境互動的外部系統——協調工具使用、管理上下文與狀態,並控制互動迴圈。框架工程已被證明是提升代理性能的有力槓桿,但其帶來的提升取決於部署時該特定框架的存在。由於最優框架會因領域、個別任務與基礎模型而異,通用代理面臨艱難的取捨:要麼接受單一共用框架而放棄專用優勢,要麼維護不斷擴增的專用框架集合,並承擔路由、上下文與協調方面的遞增成本。

Harness-Zero 提出第三條路徑:框架蒸餾。經過優化的框架僅作為訓練時的指引,它所誘導的行為被轉移到模型的權重中,因此在移除專用框架、部署時改用最小化固定框架之後,這些提升仍得以保留。

Agent-as-Harness:跨不同動作空間轉譯指引

核心難點在於,優化後的框架與目標框架在動作空間和可用資訊上皆不相同,這意味著優化框架所提供的指引無法直接用作訓練監督。Harness-Zero 透過 agent-as-harness 的方式解決這一問題:一個獨立的框架代理在優化框架的指引下,審查學生代理提出的每個回應,並在必要時予以修正使修正在執行前以目標框架的原生動作空間表達。

這些經過修正的執行過程隨後成為訓練示範。對所產生的軌跡進行微調,可直接將框架誘導的行為內化到模型權重中;而在部署時,專用框架、參考框架與框架代理皆被捨棄。

研究人員在三個領域對該方法進行評估——以試算表為基礎的知識工作(SpreadsheetBench Verified)、多應用工具使用(AppWorld),以及科學推理(USPTO Retrosynthesis)。在前沿模型的免訓練評估——即不涉及微調——中,agent-as-harness 方法優於傳統的 code-as-harness 方法,在所測試的基準與模型設定中平均為 81.1% 對 78.1%。

在蒸餾方面,一個以當前標準而言相對緊湊的 90 億參數基礎模型,在移除專用框架後,其宏平均任務成功率從 23.3% 提升至 44.3%——超過同一基礎模型在框架仍掛載時達到的 41.7%。行為分析進一步發現,蒸餾後的模型平均恢復了基礎模型原本不具備的 28 種框架誘導行為模式中的 82.3%,這表明蒸餾模型吸收的是框架的運作方式,而不只是其性能表現。

作者指出若干限制。該方法需要足夠強大的模型來擔任框架代理,因為較弱的模型會產生淨有害的干預,且審查過程提高了軌跡收集的成本。框架中編碼的深層領域知識也可能難以僅透過微調來內化。

儘管如此,這些結果表明,框架開發有望成為可規模化的訓練訊號來源——更好的模型構建更好的框架,而每個框架又將其提升回饋給模型本身,而非將其鎖在周圍的鷹架中。在作者所指出的限制之下,這個迴圈能延伸多遠,是一個開放性問題,將決定框架所帶來的提升是繼續留在鷹架中——還是開始落入權重本身。