Google DeepMind suchte nach Belegen dafür, dass KI die Entwicklung von KI selbst beschleunigt. Nach der eigenen Einschätzung des Labors hat man nichts dergleichen gefunden.

Im Sicherheitsbericht zu Gemini 4 Argon, dem leistungsstärksten Modell des Unternehmens, kam Google zu dem Schluss, dass die KI-Forschung nicht schneller voranschreitet – obwohl KI inzwischen den Großteil des Codes schreibt, den DeepMinds Ingenieure ausliefern. Die Analyse ergab nach dem 1. April 2026 keine statistisch signifikante Beschleunigung des KI-Fortschritts; der Fähigkeitsindex des Labors stieg konstant um 0,1 Punkte pro Monat. Das Unternehmen bezeichnet die Analyse als seine erste ganzheitliche empirische Bewertung der Automatisierung und Beschleunigung von ML-Forschung und -entwicklung.

Das Ergebnis widerspricht dem Szenario, das KI-Manager so beunruhigt hat, dass sie eine Verlangsamung fordern. Es ist als rekursive Selbstverbesserung bekannt: Eine KI baut eine intelligentere Version ihrer selbst, die wiederum eine noch intelligentere baut, bis der Fortschritt die Fähigkeit zu Testen, Regulieren oder Abschalten übersteigt – was der Bericht als „eine Situation, in der bestehende Schutzmechanismen völlig unzureichend sind“, beschreibt.

„Derzeit gibt es keine wesentliche End-to-End-Beschleunigung von ML-Forschung und -entwicklung, weder KI-getrieben noch anderweitig“, schrieb Haydn Belfield, ein Google-DeepMind-Forscher, der an der Bewertung mitwirkte, in einem Thread auf X. „Daher kommen wir zu dem Schluss, dass das Risiko durch KI-getriebene ML-Forschung und -entwicklung derzeit gering ist.“ ML-Forschung und -entwicklung ist die Kurzform für Machine-Learning-Research and Development – die Arbeit an neuen KI-Modellen.

1/9 In the Gemini 4 Argon Safety & Security Report, we published our first holistic empirical assessment of ML R&D automation and acceleration inside Google DeepMind — combining capability benchmarks, a macro capability index, data on AI-written code and trajectory outcomes, and… pic.twitter.com/Vr8Q5Obbsp

— Haydn Belfield (@HaydnBelfield) October 14, 2026

DeepMind verfolgt das Thema, weil „KI die Fähigkeitsgewinne an der Grenze schneller beschleunigen könnte, als Sicherheit, Governance und gesellschaftliche Anpassung mithalten können“, so Belfield. Mehr Automatisierung bedeutet auch, dass KI-Agenten breiteren Zugriff auf Unternehmenssysteme erhalten – und dass ein fehlaligniertes Modell, das Ziele verfolgt, die seine Entwickler nie beabsichtigt hatten, mehr Spielraum Schaden hat.

Ein stetiger Anstieg, kein Sprung

Um den Fortschritt zu messen, entwickelte das Team GCI v1, einen internen Index, der die Scores von 123 KI-Modellen über 92 Benchmarks zu einer einzigen Zahl pro Modell zusammenführt – quasi ein IQ-Wert für KI. „Die Fähigkeiten von Frontier Gemini haben sich in einem bemerkenswert gleichmäßigen Tempo von ~0,1 GCI-Punkten/Monat verbessert“, schrieb Belfield. Der Unterschied ist relevant, denn eine echte rekursive Selbstverbesserung würde sich per Definition genau in einer solchen Kurve als Knick nach oben zeigen.

In der Diagrammdarstellung des Index im Bericht liegt Gemini 1.5 Pro Ende 2024 bei rund 0,5 Punkten und Gemini 3.8 Flash im September 2026 knapp über 2,9, wobei fast jede Veröffentlichung einer geraden Linie folgt. Argon ist der einzige Datenpunkt über dem Trend, bei etwa 3,3 – wobei dessen Fehlerbalken, also der Bereich, in dem sein tatsächlicher Score plausibel liegen könnte, weit genug nach unten reicht, um die Trendlinie zu berühren.

„Während Gemini 4 Argon über [dem] Trend liegt, führen wir dies auf erhöhte Rechen- und Organisationsinvestitionen zurück und nicht auf eine KI-getriebene Beschleunigung“, schrieb Belfield. Google stellte Gemini 4 Argon am 30. September vor.

Der meiste Code ist KI-geschrieben, doch Menschen steuern weiterhin

Der Großteil des Produktionscodes bei DeepMind ist inzwischen zu mehr als 75 % KI-geschrieben, und der Anteil vollständig delegierter Pull Requests – gebündelte Codeänderungen, die vor dem Livegang zur Überprüfung eingereicht werden – stieg zwischen April und September von 7,5 % auf 11,9 %. Dennoch „erfordern ~88 % der Pull Requests weiterhin mehrstufige menschliche Steuerung oder menschliche Code-Autorenschaft – und Codeänderungen unterliegen vor dem Einreichen weiterhin der menschlichen Überprüfung“, schrieb Belfield.

Eine Umfrage unter 12 führenden DeepMind-Managern und Forschern ergab, dass die Automatisierung am höchsten bei „klar spezifizierten, überprüfbaren Ausführungsaufgaben“ und am niedrigsten bei „offener wissenschaftlicher Ideengenerierung, neuartigem experimentellem Design, der Diagnose subtiler Trainingsinstabilitäten und langfristigem Forschungsgespür“ ist. Einfach ausgedrückt: KI ist hervorragend darin, Anweisungen auszuführen, aber schwach darin zu entscheiden, welche Ideen verfolgt werden sollten.

DeepMind wertete auch 1.389 Protokolle aus, in denen Argon als Agent innerhalb des Unternehmens arbeitete. Je größer die Aufgabe, desto unwahrscheinlicher schaffte das Modell sie allein – und desto häufiger griff ein Mensch ein. Insgesamt löste Gemini 4 Argon etwa die Hälfte der internen Forschungs-Engineering-Aufgaben, die es abschloss, weit unter der 90-%-Schwelle die DeepMind als Warnsignal für vollständige Automatisierung wertet. Diese veröffentlichte Schwelle gibt den Lesern einen konkreten Maßstab, um künftige Behauptungen über außer Kontrolle geratene Automatisierung einzuschätzen.

ein Kontrapunkt zu früheren Warnungen

Der Bericht untermauert eine Seite einer Debatte, die bisher vor allem mit Warnungen geführt wurde, mit internen Daten. Er erschien einen Monat, nachdem Anthropic-Chef Dario Amodei argumentiert hatte, die rekursive Selbstverbesserung beschleunige sich bereits – eine Warnung, die Sam Altman und Elon Musk bekräftigten und die Chipaktien um fast 6 % fallen ließ. Wenige Tage zuvor hatte der ehemalige Anthropic-Ingenieur Jacob Coxon die Branche verlassen und gewarnt, KI könne uns „bis Ende des Jahrzehnts alle töten“.

DeepMinds Zahlen decken nur das eigene Labor ab, und der Bericht stellt fest, dass nicht ausgeschlossen werden kann, dass eine unbeschränkte Version von Argon die internen Gefahrenschwellen für Cyberangriffe und Informationen zu Biowaffen überschreitet.