Sakana AI, en colaboración con investigadores de UC Berkeley, ha presentado Multi-Agent Self-Supervision (MASS), un marco diseñado para permitir que los sistemas de IA sigan mejorando incluso cuando las tareas se vuelven demasiado complejas para que los humanos las evalúen de manera confiable.

Sakana AI es un laboratorio de investigación con sede en Tokio fundado en 2023 por exinvestigadores de Google, entre ellos Llion Jones, coautor del artículo de 2017 que introdujo la arquitectura Transformer que sustenta gran parte de la IA actual. El laboratorio toma su nombre de la palabra japonesa para pez, un guiño al comportamiento de cardumen que coincide con el enfoque de inteligencia colectiva del nuevo trabajo: auto-mejora recursiva mediante equipos de agentes.

El trabajo aborda un problema creciente en el desarrollo de la IA: a medida que los modelos superan el conocimiento acumulado de la humanidad, los expertos humanos podrían ya no ser capaces de juzgar o guiar sus resultados. MASS aborda esto convirtiendo al modelo en su propio optimizador y evaluador, una forma de auto-mejora recursiva homogénea, en la que cada agente del bucle es una copia del mismo modelo subyacente, mientras intenta evitar la trampa de un sistema que refuerza sus propios puntos ciegos.

El marco alterna entre dos bucles. En el bucle interno, el modelo organiza copias de sí mismo en un equipo de subagentes virtuales regidos por un flujo de trabajo escrito que especifica el rol de cada subagente, sus instrucciones, los contratos sobre qué información debe intercambiarse y el orden de las llamadas. Un orquestador ejecuta el flujo de trabajo, un evaluador compara los resultados con el campeón actual y un optimizador propone revisiones. En el bucle externo, las mejores trayectorias multiagente se destilan de vuelta en los pesos del modelo compartido mediante fine-tuning, tras lo cual el modelo actualizado retoma los tres roles y el ciclo se repite.

Después de dos ciclos completos partiendo de un modelo abierto de 27B de parámetros, el rendimiento medido como puntaje por token de salida, una vista de la capacidad normalizada por cómputo, alcanzó 1.2 a 1.6 veces el nivel del modelo base en benchmarks de investigación que incluyen MLR-Bench, ScienceAgentBench, DSBench y AstaBench, con las mejoras confirmadas por jueces externos excluidos del proceso de entrenamiento.

Introducing Multi-Agent Self-Supervision (MASS): Recursive self-improvement through collective intelligence Blog: As AI systems tackle increasingly open-ended research problems, human experts may struggle to assess results and guide further progress. The… pic.twitter.com/OWjbfIOEsy

— Sakana AI (@SakanaAILabs) October 11, 2026

Hallazgos clave: señales densas, generalización de roles y nuevos cuellos de botella

Los investigadores reportan tres hallazgos principales. Primero, MASS permite la generalización de roles: entrenar solo con trayectorias de resolución de tareas mejoró no solo al ejecutor, sino también al optimizador y al evaluador del flujo de trabajo, con la concordancia entre los juicios del modelo y jueces externos potentes aumentando del 73% al 93% a lo largo de los ciclos. Esto sugiere que el bucle de auto-mejora puede sostenerse por sí mismo, ya que las capacidades para producir y seleccionar datos de entrenamiento futuros mejoran junto con el rendimiento en las tareas.

Segundo, las trayectorias multiagente resultaron sustancialmente más eficientes como datos de entrenamiento que las de un solo agente. El modelo alcanzó una tasa de victoria del 68.3% sobre el modelo base utilizando 31% menos tokens supervisados que un enfoque comparable de un solo agente, evidencia de que aprender en conjunto la orquestación de alto nivel de los orquestadores y la ejecución acotada de los subagentes proporciona una señal de aprendizaje más densa por token.

Tercero, y quizás lo más contraintuitivo, las ablaciones mostraron que el cuello de botella en la auto-mejora recursiva puede ser el optimizador en lugar del evaluador. Sustituir únicamente el evaluador por un modelo externo más potente ayudó poco, pero actualizar tanto el evaluador como el optimizador permitió al sistema encontrar flujos de trabajo ganadores para las 12 tareas de prueba en cinco iteraciones, en comparación con 11 de 12 para el bucle completamente homogéneo, que simplemente tardó más.

El análisis de los flujos de trabajo evolucionados reveló que la coordinación efectiva desplaza la información específica de la tarea hacia los contratos y el orden de las llamadas, cómo los agentes intercambian y verifican información, en lugar de hacia los roles. Los autores también enfatizan las implicaciones de seguridad: en un bucle homogéneo, los puntos ciegos compartidos podrían permitir que resultados defectuosos sean aceptados como progreso y reforzados mediante el entrenamiento, lo que hace esenciales los mecanismos de verificación independientes a medida que avanzan las capacidades de auto-mejora.