Sakana AI prezentuje MASS: samoulepszającą się pętlę AI opartą na własnej inteligencji zbiorowej
Najważniejsze informacje
- •Sakana AI i badacze z UC Berkeley zaprezentowali MASS – ramy, w których pojedynczy model organizuje kopie samego siebie w role orkiestratora, ewaluatora i optymalizatora na potrzeby rekurencyjnego samoulepszania.
- •Po dwóch cyklach doskonalenia, wychodząc od otwartego modelu o 27B parametrów, wydajność znormalizowana względem mocy obliczeniowej osiągnęła 1,2–1,6 poziomu bazowego w MLR-Bench, ScienceAgentBench, DSBench i AstaBench, a zyski potwierdziły zewnętrzne jury wyłączone z treningu.
- •Trening na trajektoriach wieloagentowych dał wskaźnik zwycięstw 68,3% względem modelu bazowego przy użyciu o 31% mniej nadzorowanych tokenów niż porównywalne podejście jednoagentowe.
- •Zgodność modelu z silnymi zewnętrznymi jurorami wzrosła z 73% do 93% w kolejnych cyklach, co wskazuje, że zdolności ewaluatora i optymalizatora poprawiają się wraz z wydajnością zadań.
- •Ablacje wykazały, że wąskim gardłem może być optymalizator, a nie ewaluator, a autorzy ostrzegają, że wspólne martwe punkty w homogenicznych pętlach mogłyby pozwolić na wzmacnianie wadliwych wyników, co czyni niezależną weryfikację niezbędną.
Sakana AI, we współpracy z badaczami z UC Berkeley, zaprezentowała Multi-Agent Self-Supervision (MASS) – ramy zaprojektowane tak, by systemy AI mogły dalej się doskonalić nawet wtedy, gdy zadania stają się zbyt złożone, by ludzie mogli je niezawodnie oceniać.
Sakana AI to tokijskie laboratorium badawcze założone w 2023 roku przez byłych badaczy Google, w tym Lliona Jonesa, współautora artykułu z 2017 roku, który wprowadził architekturę Transformer leżącą u podstaw znacznej części dzisiejszej AI. Nazwa laboratorium pochodzi od japońskiego słowa oznaczającego rybę – nawiązanie do zachowań ławicowych, które odpowiada ujęciu inteligencji zbiorowej w nowej pracy: rekurencyjne samoulepszanie się poprzez zespoły agentów.
Praca dotyczy rosnącego problemu w rozwoju AI: w miarę jak modele wykraczają poza zakumulowaną wiedzę ludzkości, eksperci mogą już nie być w stanie oceniać ani ukierunkowywać ich wyników. MASS rozwiązuje to, czyniąc model własnym optymalizatorem i ewaluatorem – jest to forma homogenicznego rekurencyjnego samoulepszania, w której każdy agent w pętli jest kop tego samego modelu bazowego – przy jednoczesnej próbie uniknięcia pułapki systemu wzmacniającego własne martwe punkty.
Ramy naprzeminie wykorzystują dwie pętle. W pętli wewnętrznej model organizuje kopie samego siebie w zespół wirtualnych subagentów zarządzany spisanym przepływem pracy, który określa rolę każdego subagenta, jego instrukcje, kontrakty dotyczące tego, jakie informacje muszą być wymieniane, oraz kolejność wywołań. Orkiestrator wykonuje przepływ pracy, ewaluator porównuje wyniki z obecnym mistrzem, a optymalizator proponuje poprawki. W pętli zewnętrznej najlepiej działające trajektorie wieloagentowe są destylowane z powrotem do wag wspólnego modelu poprzez dostrajanie (fine-tuning), po czym zaktualizowany model wznawia wszystkie trzy role i cykl się powtarza.
Po dwóch pełnych cyklach, wychodząc od otwartego modelu o 27B parametrów, wydajność mierzona jako wynik na token wyjściowy – znormalizowany względem mocy obliczeniowej wskaźnik zdolności – osiągnęła 1,2 do 1,6 poziomu modelu bazowego w benchmarkach badawczych obejmujących MLR-Bench, ScienceAgentBench, DSBench i AstaBench, a zyski potwierdziły zewnętrzne jury wyłączone z procesu treningowego.
Introducing Multi-Agent Self-Supervision (MASS): Recursive self-improvement through collective intelligence Blog: As AI systems tackle increasingly open-ended research problems, human experts may struggle to assess results and guide further progress. The… pic.twitter.com/OWjbfIOEsy
— Sakana AI (@SakanaAILabs) October 11, 2026
Kluczowe ustalenia: gęste sygnały, uogólnianie ról i nowe wąskie gardła
Badacze raportują trzy główne ustalenia. Po pierwsze, MASS umożliwia uogólnianie ról: trening wyłącznie na trajektoriach rozwiązywania zadań poprawił nie tylko egzekutora, ale także optymalizatora przepływu pracy i ewaluatora, a zgodność ocen modelu z silnymi zewnętrznymi jurorami wzrosła z 73% do 93% w kolejnych cyklach. Sugeruje to, że pętla samoulepszania może się samopodtrzymywać, ponieważ zdolności do tworzenia i wybierania przyszłych danych treningowych poprawiają się wraz z wydajnością zadań.
Po drugie, trajektorie wieloagentowe okazały się znacznie wydajniejszymi danymi treningowymi niż jednoagentowe. Model osiągnął wskaźnik zwycięstw 68,3% względem modelu bazowego, używając o 31% mniej nadzorowanych tokenów niż porównywalne podejście jednoagentowe – dowód na to, że wspólne uczenie się wysokopoziomowej orestracji od orkiestratorów i ograniczonej egzekucji od subagentów zapewnia gęstszy sygnał uczenia na token.
Po trzecie, co być może najbardziej nieintuicyjne, ablacje wykazały, że wąskim gardłem rekurencyjnego samoulepszania może być optymalizator, a nie ewaluator. Podmiana samego ewaluatora na silniejszy model zewnętrzny niewiele pomogła, ale ulepszenie zarówno ewaluatora, jak i optymalizatora pozwoliło systemowi znaleźć wygrywające przepływy pracy dla wszystkich 12 zadań testowych w ciągu pięciu iteracji, w porównaniu z 11 z 12 dla w pełni homogenicznej pętli, która po prostu potrzebowała więcej czasu.
Analiza ewoluowanych przepływów pracy ujawniła, że skuteczna koordynacja przenosi informacje specyficzne dla zadania do kontraktów i kolejności wywołań – czyli tego, jak agenci wymieniają i weryfikują informacje – a nie do ról. Autorzy podkreślają również implikacje bezpieczeństwa: w homogenicznej pętli wspólne martwe punkty mogłyby pozwolić, by wadliwe wyniki zostały uznane za postęp i wzmocnione poprzez trening, co czyni niezależne mechanizmy weryfikacji niezbędnymi w miarę rozwoju zdolności samoulepszania.
