Sakana AI、MASSを発表 — 独自の集合知を基盤とするAI自己改善ループ
重要ポイント
- •Sakana AIとUCバークレーの研究者らはMASSを発表した。これは、単一のモデルが自身のコピーをオーキストレーター、評価者、オプティマイザーの役割に編成し、再帰的な自己改善を行うフレームワークである。
- •270億パラメータのオープンウェイトモデルを起点に2回の改善サイクルを経て、計算量正規化パフォーマンスはMLR-Bench、ScienceAgentBench、DSBench、AstaBenchにおいてベースの1.2倍から1.6倍に到達し、その向上はトレーニングから切り離された外部審査員によって確認された。
- •マルチエージェントの軌跡によるトレーニングは、同等のシングルエージェント手法より31%少ない教師ありトークンで、ベースモデルに対する68.3%の勝率を達成した。
- •モデルと強力な外部審査員との一致率はサイクルを重ねるごとに73%から93%に上昇し、評価者とオプティマイザーの能力がタスクパフォーマンスとともに向上することを示している。
- •アブレーション実験では、評価者ではなくオプティマイザーがボトルネックになりうることが示され、著者らは均質ループにおける共通の盲点が欠陥のある結果を強化しうると警告し、独立した検証が不可欠であるとしている。

Sakana AIは、UCバークレーの研究者らと共同で、Multi-Agent Self-Supervision(MASS)を発表した。これは、タスクが人間が確実に評価できないほど複雑になった場合でも、AIシステムが改善を続けられるように設計されたフレームワークである。
Sakana AIは、2023年に元Googleの研究者たち、その中には今日のAIの基盤となるTransformerアーキテクチャを紹介した2017年の論文の共著者であるLlion Jonesも含まれる面々によって設立された東京の研究ラボである。ラボ名は日本語の「魚」に由来しており、群れて動く魚の行動は、エージェントのチームによる再帰的自己改善という今回の研究の集合知の枠組みと一致している。
この研究は、AI開発における高まりつつある問題に取り組むものである。モデルが人類の蓄積した知識を超えて進むにつれ、人間の専門家はもはやその出力を判断したり導いたりできなくなる可能性がある。MASSは、モデル自身をオプティマイザー兼評価者とすることでこれに対処する。これは均質な再帰的自己改善の一形態であり、ループ内のすべてのエージェントが同じ基盤モデルのコピーである。同時に、システムが自らの盲点を強化してしまう罠を回避することも試みている。
このフレームワークは2つのループを交互に実行する。内側のループでは、モデルは自身のコピーを仮想サブエージェントのチームとして編成する。これは書面化されたワークフローに括され、各サブエージェントの役割、指示、交換すべき情報に関する契約、呼び出しの順序が規定される。オーケストレーターがワークフローを実行し、評価者が結果を現行のチャンピオンと比較し、オプティマイザーが修正案を提示する。外側のループでは、最も優れたパフォーマンスを示したマルチエージェントの軌跡がファインチューニングを通じて共有モデルの重みに蒸留し戻され、その後更新されたモデルが3つの役割すべてを再び担い、サイクルが繰り返される。
270億パラメータのオープンウェイトモデルを起点に2回の完全なサイクルを経た後、出力トークンあたりのスコアで測定されるパフォーマンス — 計算量で正規化した能力の指標 — は、MLR-Bench、ScienceAgentBench、DSBench、AstaBenchを含む研究ベンチマークにおいて、ベースモデルの1.2倍から1.6倍の水準に到達した。この向上は、トレーニングプロセスから切り離された外部の審査員によって確認された。
Introducing Multi-Agent Self-Supervision (MASS): Recursive self-improvement through collective intelligence Blog: As AI systems tackle increasingly open-ended research problems, human experts may struggle to assess results and guide further progress. The… pic.twitter.com/OWjbfIOEsy
— Sakana AI (@SakanaAILabs) October 11, 2026
主な発見:高密度なシグナル、役割の一般化、新たなボトルネック
研究者らは3つの主要な発見を報告している。第一に、MASSは役割の一般化を可能にする。タスク解決の軌跡のみでトレーニングした結果、改善したのは実行者だけでなく、ワークフローのオプティマイザーと評価者も同様であり、モデルの判断と強力な外部審査員との一致率はサイクルを重ねるごとに73%から93%へと上昇した。これは、自己改善ループが持続可能であることを示唆している。将来のトレーニングデータを生成・選択する能力が、タスクパフォーマンスとともに向上するためである。
第二に、マルチエージェントの軌跡は、シングルエージェントのそれよりも大幅に効率的なトレーニングデータであることが証明された。このモデルは、同等のシングルエージェント手法より31%少ない教師ありトークンを使用しながら、ベースモデルに対して68.3%の勝率を達成した。これは、オーキストレーターから高レベルのオーケストレーションを、サブエージェントから制約された実行を同時に学習することで、トークンあたりより高密度な学習シグナルが得られることを示す証拠である。
第三に、おそらく最も直感に反する発見として、アブレーション実験により、再帰的自己改善のボトルネックは評価者ではなくオプティマイザーになりうることが示された。より強力な外部モデルを評価者として差し込むだけではほとんど効果がなかったが、評価者とオプティマイザーの両方をアップグレードすると、システムは12のテストタスクすべてについて5イテレーション以内に勝利するワークフローを見つけた。完全に均質なループでは12のうち11にとどまり、単により多くの時間を要した。
進化したワークフローの分析により、効果的な協調は、タスク固有の情報を役割ではなく、契約と呼び出し順序 — エージェントが情報を交換・検証する方法 — へと移していることが明らかになった。著者らは安全性への響も強調している。均質なループでは、共通の盲点により欠陥のある結果が進歩として受け入れられ、トレーニングを通じて強化される可能性があり、自己改善能力が進展するにつれて独立した検証メカニズムが不可欠になるとしている。