Sakana AI 推出 MASS:以自身群體智慧打造的自我改進 AI 迴圈
重點速覽
- •Sakana AI 與 UC Berkeley 研究人員推出 MASS,這是一個讓單一模型將自身副本組織為協調器、評估器與最佳化器角色,以實現遞迴自我改進的框架。
- •從 27B 參數的開放權重模型出發,經過兩輪改進後,以運算量歸一化衡量的效能在 MLR-Bench、ScienceAgentBench、DSBench 與 AstaBench 上達到準的 1.2 至 1.6 倍,並由未參與訓練的外部評審確認。
- •以多代理軌跡訓練的模型相較基準模型達到 68.3% 的勝率,且使用的監督 token 比可比較的單代理方法少 31%。
- •模型與強力外部評審的一致率在各輪迭代中從 73% 上升至 93%,顯示評估器與最佳化器的能力會隨任務表現一同提升。
- •消融實驗顯示瓶頸可能是最佳化器而非評估器;作者警告,同質迴圈中共同的盲點可能使有瑕疵的結果被強化,因此獨立驗證機制至關重要。

Sakana AI 與 UC Berkeley 的研究人員合作,推出了多代理自我監督(MASS),這是一個旨在讓 AI 系統持續改進的框架,即使任務複雜到人類難以可靠評估也能運作。
Sakana AI 是一家位於東京的研究實驗室,於 2023 年由前 Google 研究人員創立,其中包括 Llion Jones——2017 年提出 Transformer 架構論文的共同作者之一,而當今大部分 AI 都建立在此架構之上。實驗室名稱取自日語的「魚」字,呼應魚群洄游的群體行為,這也與這項新研究以群體智慧為核心的定位相契合:透過代理團隊實現遞迴自我改進。
這項研究解決了 AI 發展中日益嚴峻的問題:當模型超越人類累積的知識範圍後,人類專家可能無法再判斷或引導其輸出。MASS 的應對方式是讓模型同時扮演自己的最佳化器與評估器——一種同質遞迴自我改進的形式,其中迴圈內的每個代理都是同一底層模型的副本——同時盡力避免系統強化自身盲點的陷阱。
該框架在兩個迴圈之間交替運作。在內迴圈中,模型將自身的副本組織成一個由書面工作流程管理的虛擬子代理團隊,工作流程規定了每個子代理的角色、指令、資訊交換契約以及呼叫順序。協調器負責執行工作流程,評估器將結果與當前最佳版本進行比較,最佳化器則提出修訂方案。在外迴圈中,表現最佳的多代理軌跡透過微調蒸餾回共享模型的權重中,更新後的模型隨後重新承擔這三個角色,循環往復。
從一個 27B 參數開放權重模型出發,經過兩輪完整迭代後,以每輸出 token 分數衡量的效能——一種運算量歸一化的能力指標——在包括 MLR-Bench、ScienceAgentBench、DSBench 和 AstaBench 在內的研究基準上達到基準模型的 1.2 至 1.6 倍,且提升幅度由未參與訓練過程的外部評審確認。
Introducing Multi-Agent Self-Supervision (MASS): Recursive self-improvement through collective intelligence Blog: As AI systems tackle increasingly open-ended research problems, human experts may struggle to assess results and guide further progress. The… pic.twitter.com/OWjbfIOEsy
— Sakana AI (@SakanaAILabs) October 11, 2026
關鍵發現:密集訊號、角色泛化與新瓶頸
研究人員報告了三項主要發現。首先,MASS 實現了角色泛化:僅以解題軌跡進行訓練,不僅提升了執行者,也改善了工作流程最佳化器與評估器,模型判斷與強力外部評審之間的一致率在各輪迭代中從 73% 上升至 93%。這顯示自我改進迴圈能夠自我維持,因為產生與篩選未來訓練資料的能力會隨著任務表現一同提升。
其次,多代理軌跡作為訓練資料的效率顯著高於單代理軌跡。相較於基準模型,該模型在使用的監督 token 比可比較的單代理方法少 31% 的情況下,達到了 68.3% 的勝率——這證明同時從協調器學習高層協調、從子代理學習受限執行,能提供更密集的每 token 學習訊號。
第三,或許也是最反直覺的一點,消融實驗顯示遞迴自我改進的瓶頸可能是最佳化器而非評估器。僅將評估器替換為更強的外部模型幾乎沒有幫助,但同時升級評估器與最佳化器後,系統能在五輪迭代內為全部 12 項測試任務找到獲勝的工作流程,而完全同質的迴圈僅能完成 12 項中的 11 項,只是耗時更長。
對演化後工作流程的分析顯示,有效的協調是將任務特定資訊轉移到契約與呼叫順序中——即代理之間如何交換與驗證資訊——而非轉移到角色中。作者也強調了安全性影響:在同質迴圈中,共同的盲點可能使有瑕疵的結果被視為進展並透過訓練被強化,因此隨著自我改進能力的推進,獨立驗證機制變得不可或缺。