Google DeepMind szukało dowodów na to, że AI przyspiesza rozwój samej AI. Według oceny samego laboratorium—nie znalazło ich.

W raporcie bezpieczeństwa dotyczącym Gemini 4 Argon, najbardziej zaawansowanego modelu firmy, stwierdzono, że badania nad AI nie przyspieszają—mimo że AI pisze obecnie większość kodu, który inżynierowie DeepMind wprowadzają do produkcji. Analiza nie wykazała statystycznie istotnego przyspieszenia tempa postępu AI po 1 kwietnia 2026 r., a wskaźnik możliwości laboratorium rósł w stałym tempie 0,1 punktu miesięcznie. Firma opisuje to jako swoje pierwsze całościowe badanie empiryczne automatyzacji i przyspieszania prac R&D nad uczeniem maszynowym.

Ten wynik przeczy scenariuszowi, który przestraszył szefów branży AI na tyle, że wzywają do zwolnienia tempa. Nazywa się go rekurencyjnym samoulepszaniem: AI buduje inteligentniejszą wersję samej siebie, która buduje jeszcze inteligentniejszą, aż postęp wymknie się spod kontroli—poza możliwością testowania, regulowania lub wyłączenia, co raport opisuje jako „sytuację, w której istniejące zabezpieczenia są poważnie niewystarczające”.

„Obecnie nie ma istotnego end-to-end przyspieszenia prac R&D nad uczeniem maszynowym—napędzanego AI lub innego”—napisał Haydn Belfield, badacz Google DeepMind pracujący nad tą oceną, w wątku na X. „Konkludujemy zatem, że ryzyko związane z R&D nad ML napędzanym przez AI jest obecnie niskie.” Skrót ML R&D oznacza prace badawczo-rozwojowe nad uczeniem maszynowym—tworzenie nowych modeli AI.

1/9 In the Gemini 4 Argon Safety & Security Report, we published our first holistic empirical assessment of ML R&D automation and acceleration inside Google DeepMind — combining capability benchmarks, a macro capability index, data on AI-written code and trajectory outcomes, and… pic.twitter.com/Vr8Q5Obbsp

— Haydn Belfield (@HaydnBelfield) October 14, 2026

DeepMind śledzi ten problem, ponieważ „AI mogłaby przyspieszać zyski w zakresie możliwościi granicznych szybciej, niż nadążają za tym bezpieczeństwo, zarządzanie i przystosowanie społeczne”—napisał Belfield. Większa automatyzacja oznacza też dawanie agentom AI szerszego dostępu do systemów firmowych—and więcej miejsca na kłopoty spowodowane przez niewspółmierny model, czyli taki, który realizuje cele nigdy niezamierzone przez swoich twórców.

Stabilny wzrost, a nie skok

Aby mierzyć postęp, zespół stworzył GCI v1—wewnętrzny wskaźnik, który łączy wyniki 123 modeli AI w 92 benchmarkach w jedną liczbę dla każdego modelu—w efekcie coś w rodzaju ilorazu inteligencji dla AI. „Możliwości granicznych modeli Gemini poprawiały się w niezwykle stabilnym tempie ~0,1 punktu GCI miesięcznie”—napisał Belfield. To rozróżnienie ma znaczenie, ponieważ prawdziwe rekurencyjne samoulepszanie z definicji przejawiałoby się zagięciem tej krzywej w górę.

Na wykresie wskaźnika w raporcie Gemini 1.5 Pro znajduje się w okolicach 0,5 punktu pod koniec 2024 r., a Gemini 3.8 Flash tuż powyżej 2,9 we wrześniu 2026 r., przy czym niemal każda premiera trzyma się prostej linii. Argon jest jedynym punktem wystającym ponad trend—około 3,3—choć jego przedział błędu, czyli zakres, w którym jego rzeczywisty wynik mógłby się mieścić, rozciąga się na tyle nisko, że sięga linii trendu.

„Chociaż Gemini 4 Argon znajduje się powyżej trendu, przypisujemy to zwiększonym inwestycjom w moc obliczeniową i inwestycjom organizacyjnym, a nie przyspieszeniu napędzanemu przez AI”—napisał Belfield. Google zaprezentowało Gemini 4 Argon 30 września.

Większość kodu pisze AI, ale to ludzie kierują

Większość produkcyjnego kodu w DeepMind jest obecnie w ponad 75% pisana przez AI, a udział w pełni zdelegowanych pull requestów—czyli zestawów zmian w kodzie przesyłanych do recenzji przed wdrożeniem—wzrósł z 7,5% do 11,9% między kwietniem a wrześniem. Mimo to „~88% pull requestów wciąż wymaga wieloetapowego kierowania przez człowieka lub pisania kodu przez ludzi—a zmiany w kodzie przed przesłaniem pozostają objęte recenzją ludzką”—napisał Belfield.

Badanie 12 starszych menedżerów i badaczy DeepMind wykazało, że automatyzacja jest najwyższa w przypadku „dobrze określonych, weryfikowalnych zadań wykonawczych”, a najniższa w przypadku „otwartych koncepcji naukowych, nowatorskiego projektowania eksperymentów, diagnozowania subtelnych niestabilności treningu i długoterminowego wyczucia badawczego”. Mówiąc prosto: AI świetnie wykonuje instrukcje, ale gorzej radzi sobie z decydowaniem, które pomysły warto realizować.

DeepMind przeanalizowało także 1389 logów Argona działającego jako agent wewnątrz firmy. Im większe było zadanie, tym mniejsza szansa, że model ukończy je samodzielnie—and tym częściej włączał się człowiek. Ogółem Gemini 4 Arg rozwiązał około połowy ukończonych przez siebie wewnętrznych zadań z zakresu inżynierii badawczej—znacznie poniżej progu 90%, który DeepMind traktuje jako sygnał ostrzegawczy przed pełną automatyzacją. Ten opublikowany próg daje czytelnikom konkretną miarę do oceny przyszłych twierdzeń o wymykającej się spod kontroli automatyzacji.

Kontrargument wobec wcześniejszych ostrzeżeń

Raport dostarcza danych wewnętrznych jednej ze stron debaty, która jak dotąd toczyła się głównie za pomocą ostrzeżeń. Ukazał się miesiąc po tym, jak CEO Anthropic Dario Amodei argumentował, że rekurencyjne samoulepszanie już przyspiesza—ostrzeżenie to poparli Sam Altman i Elon Musk, a zapowiedź ta posłała akcje producentów chipów w dół o prawie 6%. Kilka dni wcześniej były inżynier Anthropic Jacob Coxon opuścił branżę, ostrzegając, że AI mogłoby „zabić nas wszystkich do końca dekady”.

Dane DeepMind obejmują tylko to laboratorium, a raport zaznacza, że nie można wykluczyć, iż nieograniczona wersja Argona przekracza firmowe progi zagrożenia w zakresie cyberataków i informacji o broni biologicznej.