Google DeepMind zocht naar bewijs dat AI de ontwikkeling van AI zelf versnelt. Volgens de eigen beoordeling van het lab vond het die niet.

In het veiligheidsrapport voor Gemini 4 Argon, het krachtigste model van het bedrijf, concludeerde het bedrijf dat AI-onderzoek niet sneller beweegt—ook al schrijft AI inmiddels het merendeel van de code die DeepMinds ingenieurs uitbrengen. De analyse vond na 1 april 2026 geen statistisch significante versnelling in het tempo van AI-voortgang, met een capability index die gestaag met 0,1 punten per maand stijgt. Het bedrijf omschrijft dit als zijn eerste holistische empirische beoordeling van automatisering en versnelling van ML R&D.

De bevinding spreekt het scenario tegen dat AI-topmannen heeft aangezet tot oproepen tot vertraging. Het staat bekend als recursieve zelfverbetering: een AI bouwt een slimmere versie van zichzelf, die een nog slimmere bouwt, totdat de voortgang ieders vermogen om te testen, te reguleren of het uit te zetten teboven gaat—wat het rapport omschrijft als "een situatie waarin bestaande vangneten ernstig ontoereikend zijn."

"Er is momenteel geen significante end-to-end versnelling van ML R&D, door AI aangedreven of anderszins," schreef Haydn Belfield, een Google DeepMind-onderzoeker die aan de beoordeling werkte, in een draad op X. "Wij concluderen daarom dat het risico van door AI aangedreven ML R&D momenteel laag is." ML R&D is een afkorting voor research and development van machine learning—het werk van het bouwen van nieuwe AI-modellen.

1/9 In the Gemini 4 Argon Safety & Security Report, we published our first holistic empirical assessment of ML R&D automation and acceleration inside Google DeepMind — combining capability benchmarks, a macro capability index, data on AI-written code and trajectory outcomes, and… pic.twitter.com/Vr8Q5Obbsp

— Haydn Belfield (@HaydnBelfield) October 14, 2026

DeepMind volgt dit vraagstuk omdat "AI de winsten aan grensverleggende capaciteiten sneller kan laten toenemen dan veiligheid, governance en maatschappelijke aanpassing kunnen bijhouden," schreef Belfield. Meer automatisering betekent ook dat AI-agenten bredere toegang krijgen tot bedrijfssystemen—en meer ruimte voor een verkeerd uitgelijnd model, een dat do nastreeft die zijn makers nooit hebben bedoeld, om problemen te veroorzaken.

Een gestage klim, geen sprong

Om de voortgang te meten, bouwde het team GCI v1, een interne index die de scores van 123 AI-modellen over 92 benchmarks samenvoegt tot één getal per model—in feite een IQ-score voor AI. "De capaciteiten van Frontier Gemini zijn verbeterd in een opmerkelijk gestaag tempo van ~0,1 GCI-punten/maand," schreef Belfield. Het onderscheid is belangrijk, omdat echte recursieve zelfverbetering per definitie zichtbaar zou zijn als een knik omhoog in precies dit soort curve.

In de grafiek van de index in het rapport staat Gemini 1.5 Pro eind 2024 nabij 0,5 punten en Gemini 3.8 Flash in september 2026 net boven 2,9, met vrijwel elke release langs een rechte lijn. Argon is het enige datapunt boven de trend, op ongeveer 3,3—al reikt de foutenmarge, het bereik waarin de werkelijke score plausibel kan liggen, laag genoeg om de lijn te raken.

"Hoewel Gemini 4 Argon boven [de] trend zit, schrijven wij dit toe aan verhoogde investeringen in rekenkracht en organisatie, in plaats van een door AI aangedreven versnelling," schreef Belfield. Google onthulde Gemini 4 Argon op 30 september.

De meeste code is door AI geschreven, maar mensen sturen nog aan

Het merendeel van de productiecode bij DeepMind is nu voor meer dan 75% door AI geschreven, en het aandeel volledig gedelegeerde pull requests—bundels codewijzigingen die ter beoordeling worden ingediend voordat ze live gaan—steeg tussen april en september van 7,5% naar 11,9%. Toch "vereisen ~88% van de pull requests nog meerdere rondes menselijke sturing of menselijke code-auteurschap—en codewijzigingen blijven vóór indiening onderworpen aan menselijke beoordeling," schreef Belfield.

Een enquête onder 12 senior leiders en onderzoekers van DeepMind wees uit dat automatisering het hoogst is bij "goed gespecificeerde, verifieerbake uitvoeringstaken" en het laagst bij "open wetenschappelijke ideevorming, novel experimenteel ontwerp, het diagnosticeren van subtiele trainingsinstabiliteiten en onderzoeksgevoel op de lange termijn." In gewone woorden: AI is uitstekend in het uitvoeren van instructies, maar schiet tekort bij het bepalen welke ideeën de moeite waard zijn.

DeepMind bekeek ook 1.389 logbestanden van Argon werkend als agent binnen het bedrijf. Hoe groter de taak, hoe kleiner de kans dat het model die alleen afrondde—en hoe vaker een mens ingreep. In totaal loste Gemini 4 Argon ongeveer de helft op van de interne research engineering-taken die het voltooide, ruim onder de 90%-score die DeepMind beschouwt als een waarschuwingssignaal voor volledige automatisering. Die gepubliceerde drempel geeft lezers een concrete maatstaf om toekomstige beweringen over ontspoorde automatisering te wegen.

Een tegenwicht voor eerdere waarschuwingen

Het rapport onderbouwt met interne gegevens één kant van een debat dat tot nu toe vooral met waarschuwingen is gevoerd. Het verscheen een maand nadat Anthropic-ceo Dario Amodei betoogde dat recursieve zelfverbetering al in een stroomversnelling zit—een waarschu die door Sam Altman en Elon Musk werd onderschreven, en die chipaandelen bijna 6% deed dalen. Enkele dagen eerder was voormalig Anthropic-ingenieur Jacob Coxon uit de sector gestapt, met de waarschuwing dat AI ons "tegen het einde van het decennium allemaal kan doden."

DeepMinds cijfers hebben alleen betrekking op het eigen lab, en het rapport merkt op dat het niet kan uitsluiten dat een onbeperkte versie van Argon de drempels van het bedrijf voor cyberaanvallen en informatie over biologische wapens overschrijdt.