Sakana AI 发布 MASS:基于自身群体智能的自我改进 AI 循环
要点速览
- •Sakana AI 与加州大学伯克利分校的研究人员推出了 MASS,该框架中单一模型将自身副本组织为编排器、评估器和优化器角色,实现递归自我改进。
- •从 270 亿参数的开源权重模型出发,经过两个改进周期后,计算归一化性能在 MLR-Bench、ScienceAgentBench、DSBench 和 AstaBench 上达到基线水平的 1.2 至 1.6 倍,提升由未参与训练的外部评审确认。
- •在多智能体轨迹上训练,使模型在使用比可比单智能体方法少 31% 的监督 token 的情况下,对基础模型取得 68.3% 的胜率。
- •模型与强力外部评审的一致性在多个周期内从 73% 升至 93%,表明评估器和优化器能力随任务性能一同提升。
- •消融实验显示瓶颈可能是优化器而非评估器;作者警告,同质循环中的共同盲区可能使有缺陷的结果被强化,独立验证因此至关重要。

Sakana AI 与 加州大学伯克利分校 的研究人员合作,推出了多智能体自我监督(Multi-Agent Self-Supervision,MASS),这一框架旨在让 AI 系统在任务复杂到人类难以可靠评估时仍能持续改进。
Sakana AI 是一家总部位于东京的研究实验室,由前 Google 研究员于 2023 年创立,其中包括 Llion Jones——他是 2017 年提出 Transformer 架构论文的共同作者,而 Transformer 正是当今大多数 AI 的基础。实验室的名字取自日语中“鱼”一词,意指鱼群的集体行为,这与新研究的群体智能定位相呼应:通过智能体团队实现递归自我改进。
这项工作回应了 AI 开发中一个日益突出的问题:随着模型超越人类积累的知识,人类专家可能无法再判断或引导其输出。MASS 的应对方式是让模型充当自己的优化器和评估器——这是一种同质递归自我改进,循环中的每个智能体都是同一底层模型的副本——同时尽量避免系统强化自身盲区的陷阱。
该框架在两个循环之间交替运行。在内循环中,模型将自身的副本组织成一个由书面工作流约束的虚拟子智能体团队,工作流规定了每个子智能体的角色、指令、信息交换契约以及调用顺序。编排器执行工作流,评估器将结果与当前最优版本进行比较,优化器则提出修订建议。在外循环中,表现最佳的多智能体轨迹通过微调蒸馏回共享模型的权重,随后更新后的模型重新承担全部三种角色,循环往复。
从 270 亿参数的开源权重模型出发,经过两个完整周期后,以每输出 token 得分衡量的性能——一种计算归一化的能力视角——在包括 MLR-Bench、ScienceAgentBench、DSBench 和 AstaBench 在内的研究基准上达到基础模型水平的 1.2 至 1.6 倍,提升由未参与训练过程的外部评审确认。
Introducing Multi-Agent Self-Supervision (MASS): Recursive self-improvement through collective intelligence Blog: As AI systems tackle increasingly open-ended research problems, human experts may struggle to assess results and guide further progress. The… pic.twitter.com/OWjbfIOEsy
— Sakana AI (@SakanaAILabs) October 11, 2026
主要发现:密集信号、角色泛化与新瓶颈
研究人员报告了三项主要发现。首先,MASS 实现了角色泛化:仅在任务求解轨迹上训练,不仅提升了执行器,还提升了工作流优化器和评估器,模型判断与强力外部评审的一致性在多个周期内从 73% 升至 93%。这表明自我改进循环可以自我维系,因为生成和筛选未来训练数据的能力会随任务性能一同提升。
其次,多智能体轨迹作为训练数据远比单智能体轨迹高效。模型在使用比可比单智能体方法少 31% 的监督 token 的情况下,对基础模型取得了 68.3% 的胜率——这证明同时从编排器学习高层编排、从子智能体学习受限执行,能够提供更密集的每 token 学习信号。
第三,也许最直觉的是,消融实验显示递归自我改进的瓶颈可能是优化器而非评估器。仅替换更强的外部模型作为评估器收效甚微,但同时升级评估器和优化器后,系统能在五次迭代内为全部 12 个测试任务找到获胜工作流,而完全同质循环为 12 个中的 11 个,只是耗时更长。
对演化出的工作流的分析显示,有效的协调将任务特定信息转移到契约和调用顺序——即智能体之间如何交换和验证信息——而非角色之中。作者还强调了安全方面的启示:在同质循环中,共同的盲区可能使有缺陷的结果被当作进展接受并通过训练得到强化,因此随着自我改进能力的推进,独立验证机制变得不可或缺。