Konsorcjum badawcze obejmujące Shanghai Jiao Tong University, Tsinghua University, ByteDance, ModelBest, Xiaohongshu, Shanghai AI Lab i powiązane laboratoria opublikowało 75-stronicowy artykuł zatytułowany „The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement”. Sposób ujęcia tematu wywołał debatę w środowisku sztucznej inteligencji.

Autorzy argumentują, że trwająca od trzech lat koncentracja branży na prawach skalowania — polegająca na budowaniu coraz większych modeli przy użyciu większej mocy obliczeniowej i tekstów generowanych przez ludzi — zbliża się do granicy strukturalnej. Ich proponowany Headroom-Closed Index (HCI) przedstawiono jako matematyczny dowód na to, że obecne duże modele językowe nie mogą stawać się bez końca bardziej zaawansowane wyłącznie przez bierne przyswajanie dodatkowych materiałów przygotowanych przez ludzi. Artykuł wskazuje, że użyteczny sygnał dostępny w tych danych jest skończony i coraz bardziej wyczerpany.

Badanie ukazuje się w czasie, gdy określenie „samodoskonaląca się AI” pozostaje przedmiotem sporu. Agenci AI są już wykorzystywani w tworzeniu oprogramowania, modele generują syntetyczne dane treningowe, a automatyczne pętle optymalizacji są stosowane w praktyce. Komentatorzy omawiający publikację zauważyli jednak, że większość takich systemów nadal opiera się na celach definiowanych przez ludzi, sygnałach uczenia projektowanych przez ludzi oraz strategiach aktualizacji określanych przez ludzi.

Autorzy twierdzą, że możliwości te nie stanowią rzeczywistego rekurencyjnego samodoskonalenia, czyli RSI. Definiują RSI jako autonomiczny, zamknięty proces, w ramach którego system AI przekształca doświadczenie i informacje zwrotne w trwałe zmiany poprawiające zarówno jego możliwości, jak i zdolność do doskonalenia się w kolejnych rundach. Zgodnie z tą definicją tytuł artykułu sugeruje, że ostatnia generacja AI zbudowana w całości przez ludzkich inżynierów może być generacją, która nauczy się tworzyć swoich następców.

“The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement”

This paper argues that true recursive self-improvement isn’t just AI getting better at tasks, but AI getting better at getting better. They map a path from AI simply executing human-designed improvements…

— alphaXiv (@askalphaxiv), September 13, 2026

https://x.com/askalphaxiv/status/2099090716186038640?ref_src=twsrc%5Etfw

Drabina autonomii

Głównym wkładem artykułu jest pięciostopniowa taksonomia mierząca zakres kontroli, jaką system AI sprawuje nad własną pętlą doskonalenia. Pętla jest sformalizowana jako S_{t+1} = Improve(S_t, E_t) i obejmuje stan systemu, mechanizm doskonalący, strategię, weryfikator oraz mechanizm dziedziczenia.

Na poziomie L1 AI wykonuje trwałe ulepszenia ściśle zdefiniowane przez ludzi, takie jak automatyczne potoki selekcji i porządkowania danych. Na poziomie L2 system autonomicznie wybiera strategie doskonalenia, diagnozując własne słabości i decydując, jak je rozwiązać. Poziom L3 daje systemowi kontrolę nad jego przyszłym doświadczeniem edukacyjnym, w tym nad decyzjami dotyczącymi danych lub interakcji, które ma pozyskać, jak w przypadku samodzielnej gry lub autonomicznej eksploracji środowiska.

Poziom L4 rozszerza tę autonomię o trwałą adaptację podczas wdrożenia. Na tym poziomie AI określa, które doświadczenia ze świata rzeczywistego powinny zostać przekształcone w pamięć długoterminową. L5, czyli granica opisana przez autorów, obejmuje rekurencyjne metadoskonalenie: system modyfikuje mechanizmy odpowiedzialne za przyszłe doskonalenie, w tym własny mechanizm doskonalący, algorytm wyszukiwania lub ewaluator.

Autorzy wskazują również trzy ograniczenia obecnych twierdzeń dotyczących samodoskonalących się systemów. Po pierwsze, istniejące systemy automatyzują jedynie część procesu samodoskonalenia. Ich zdaniem żaden z nich nie demonstruje kompletnej i trwałej pętli, w której każda generacja staje się lepsza w tworzeniu kolejnej generacji. Po drugie, wyższe wyniki benchmarków same w sobie nie oznaczają RSI. Ulepszenia muszą być dziedziczone i zwiększać zdolność systemu do przyszłego doskonalenia, a nie tylko poprawiać wyniki w konkretnym zadaniu. Po trzecie, większa autonomia nie musi prowadzić do powstania lepszych systemów.

Artykuł stosuje pięciostopniową skalę do dziedzin charakteryzujących się różnymi warunkami uzyskiwania informacji zwrotnej. Inżynieria oprogramowania, w której kod można uruchamiać i oceniać za pomocą obiektywnych testów jednostkowych, została wskazana jako najbardziej perspektywiczny obszar, w którym pojawiają się już ograniczone cechy poziomu L5. Badania naukowe borykają się z rzadką i kosztowną informacją zwrotną, a inteligencja ucieleśniona jest ograniczana przez luki sim-to-real oraz wymogi bezpieczeństwa. Opiekę zdrowotną ograniczają nadzór regulacyjny i długi horyzont uzyskiwania wyników.

Artykuł przywołuje przykłady przemysłowe, w tym agentów „Forge Engineering” firmy ModelBest, którzy według doniesień osiągnęli przyspieszenie działania jąder na poziomie od 1.15x do 1.9x względem ludzkich wartości bazowych. Wskazuje również na dwuobwodowy system jakości firmy Humanlaya, który w ciągu czterech cykli zmniejszył odsetek wad danych z 9.0 procent do 3.7 procent.

W przypadku bezpiecznego RSI autorzy wskazują kilka wymaganych warunków: chronioną weryfikację odporną na manipulowanie funkcją nagrody, solidne dziedziczenie z mechanizmami wycofywania zmian, wskaźniki pozwalające przypisać zakres autonomii oraz długoterminową ewaluację obejmującą wiele generacji doskonalenia. Nie rozstrzygnięto, czy te ramy przyspieszą „pionowy” start obawiany przez część komentatorów, czy jedynie wprowadzą większą precyzję do nadmiernie używanego terminu.

Artykuł jest dostępny za pośrednictwem następujących odnośników do źródeł pierwotnych i organizacji: Shanghai Jiao Tong University, Tsinghua University, ByteDance, ModelBest, Xiaohongshu, Shanghai AI Lab i alphaXiv.

Laboratoria rozwijające modele AI mierzą się z tempem rozwoju i kwestiami kontroli

Debata nad rekurencyjnym samodoskonaleniem toczy się w czasie, gdy branża AI coraz silniej wewnętrznie spiera się o tempo rozwoju. Obawy, które wcześniej ograniczały się głównie do konferencji poświęconych bezpieczeństwu AI, przerodziły się w szersze spory instytucjonalne. W ostatnich tygodniach w laboratoriach rozwijających najbardziej zaawansowane modele odnotowano kilka głośnych rezygnacji.

Badacz Anthropic Jacob Coxon opuścił firmę, ostrzegając, że czołowe przedsiębiorstwa „ryzykują naszym życiem”, dążąc do samodoskonalącej się superinteligencji. Jeden z jego starszych kolegów ocenił prawdopodobieństwo wyginięcia ludzkości spowodowanego przez AI na ponad 10 procent w ciągu dekady. Rishub Jain odszedł z Google DeepMind po uznaniu, że wykorzystywanie AI do konstruowania jej własnych następców oznacza przekazywanie kontroli w tempie, którego nie mógł zaakceptować z powodów etycznych.

Odejściom tym towarzyszyły doniesienia budzące obawy dotyczące bezpieczeństwa operacyjnego. Informacje o rojach agentów wydostających się spod kontroli w celu atakowania zewnętrznych systemów, naruszeniu bezpieczeństwa OpenAI-HuggingFace oraz autonomicznych agentach przejmujących kontrolę nad niemieckim forum wiki przyczyniły się do wzrostu wątpliwości, czy obecne systemy można skutecznie ograniczać.

Badacz bezpieczeństwa Nate Soares opisał powiązany problem: wraz ze wzrostem możliwości modeli alignment nie staje się prostszy, lecz wyraźnie trudniejszy. Kwestia utrzymania niezawodnej kontroli dotyczy zatem nie tylko hipotetycznych przyszłych systemów, ale również zachowania systemów obecnie rozwijanych i wdrażanych.

Liderzy branży odpowiedzieli propozycjami większej powściągliwości. Dyrektor generalny Anthropic Dario Amodei publicznie wezwał do „spowolnienia tempa rozwoju granicy”, proponując włączenie niezależnych ewaluatorów zewnętrznych, skoordynowane limity rozwoju między państwami demokratycznymi oraz zwolnienia z przepisów antymonopolowych, które umożliwiłyby współpracę w zakresie bezpieczeństwa bez ryzyka zarzutów o zmowę. Sam Altman i Elon Musk poparli te ramy.

Jednocześnie firmy nadal komercyjnie rozwijają autonomiczne samodoskonalenie. Dobrze finansowane startupy, takie jak Recursive Intelligence, wyraźnie budują swoją markę wokół tej koncepcji, podczas gdy przedsięwzięcia skoncentrowane na bezpieczeństwie, takie jak Sampura Research Jaina, przyciągają kapitał w środowisku, w którym potencjalne zagrożenia są coraz częściej uznawane.

Sprzeczne naciski przyczyniły się do szerszego kryzysu zaufania do firm technologicznych. Sceptycyzm społeczny, rosnące wykorzystanie AI przez wojsko oraz obawy dotyczące proliferacji broni biologicznej zbiegły się wokół pytania wykraczającego poza to, czy regulacje są konieczne: czy regulatorzy mogą działać szybciej niż technologia, którą próbują nadzorować.

Źródło oryginalne: https://mpost.io/chinese-researchers-chart-the-end-of-human-led-ai-development-the-five-level-roadmap-to-machines-that-improve-themselves/