Sakana AI в сотрудничестве с исследователями UC Berkeley представила Multi-Agent Self-Supervision (MASS) — фреймворк, позволяющий ИИ-системам продолжать улучшаться даже тогда, когда задачи становятся слишком сложными для надёжной оценки людьми.

Sakana AI — исследовательская лаборатория со штаб-квартирой в Токио, основанная в 2023 году бывшими исследователями Google, в том числе Ллионом Джонсом, соавтором статьи 2017 года, представившей архитектуру Transformer, лежащую в основе большей части современного ИИ. Название лаборатории происходит от японского слова «рыба» — отсылка к стайному поведению, перекликающемуся с концепцией коллективного интеллекта в новой работе: рекурсивное самоулучшение через команды агентов.

Работа отвечает на растущую проблему в развитии ИИ: по мере того как модели выходят за пределы накопленных человечеством знаний, эксперты-люди могут утратить возможность оценивать или направлять их результаты. MASS решает это, делая модель собственным оптимизатором и оценщиком — форма гомогенного рекурсивного самоулучшения, в котором каждый агент в цикле является копией одной и той же базовой модели, — и при этом старается избежать ловушки, когда система укрепляет собственные слепые зоны.

Фреймворк чередует два цикла. Во внутреннем цикле модель организует собственные копии в команду виртуальных субагентов, подчинённых записанному workflow, который задаёт роль каждого субагента, его инструкции, контракты о том, какая информация должна передаваться, и порядок вызовов. Оркестратор исполняет workflow, оценщик сравнивает результаты с текущим чемпионом, а оптимизатор предлагает правки. Во внешнем цикле наиболее успешные многоагентные траектории дистиллируются обратно в веса общей модели посредством дообучения, после чего обновлённая модель вновь выполняет все три роли и цикл повторяется.

После двух полных циклов, начав с открытой модели на 27 млрд параметров, производительность, измеряемая как балл на выходной токен нормированный по вычислениям показатель способностей, — достигла 1,2–1,6 раза уровня базовой модели на исследовательских бенчмарках, включая MLR-Bench, ScienceAgentBench, DSBench и AstaBench, причём успехи подтверждены внешними судьями, исключёнными из процесса обучения.

Introducing Multi-Agent Self-Supervision (MASS): Recursive self-improvement through collective intelligence Blog: As AI systems tackle increasingly open-ended research problems, human experts may struggle to assess results and guide further progress. The… pic.twitter.com/OWjbfIOEsy

— Sakana AI (@SakanaAILabs) October 11, 2026

Ключевые выводы: плотные сигналы, обобщение ролей и новые узкие места

Исследователи сообщают о трёх главных выводах. Во-первых, MASS обеспечивает обобщение ролей: обучение только на траекториях решения задач улучшило не только исполнителя, но и оптимизатора workflow, и оценщика — совпадение суждений модели с сильными внешними судьями выросло с 73% до 93% за циклы. Это говорит о том, что цикл самоулучшения может поддерживать сам себя, поскольку способности генерировать и отбирать будущие обучающие данные растут вместе с производительностью на задачах.

Во-вторых, многоагентные траектории оказались существенно более эффективными обучающими данными, чем одноагентные. Модель достигла показателя побед в 68,3% против базовой, используя на 31% меньше токенов с учителем, чем сопоставимый одноагентный подход, — свидетельство того, что совместное изучение высокоуровневой оркестрации от оркестраторов и ограниченного исполнения от субагентов даёт более плотный обучающий сигнал на токен.

В-третьих, и, пожалуй, наиболее контринтуитивно, абляции показали, что узким местом рекурсивного самоулучшения может быть оптимизатор, а не оценщик. Замена на более сильную внешнюю модель в качестве оценщика сама по себе почти не помогла, но обновление и оценщика, и оптимизатора позволило системе найти выигрышные workflow для всех 12 тестовых задач в течение пяти итераций — против 11 из 12 у полностью гомогенного цикла, который просто требовал больше времени.

Анализ эволюционировавших workflow показал, что эффективная координация переносит специфичную для задач информацию в контракты и порядок вызовов — то, как агенты обмениваются и проверяют информацию, — а не в роли. Авторы также подчёркивают последствия для безопасности: в гомогенном цикле общие слепые зоны могут позволить ошибочным результатам приниматься за прогресс и закрепляться через обучение, что делает независимые механизмы верификации необходимыми по мере развития способностей к самоулучшению.