Google DeepMindは、AIがAI自体の開発を加速させているという証拠を探した。だが同社自身の評価によれば、そのような証拠は見つからなかったという。

最強モデル「Gemini 4 Argonの安全性レポート」において同社は、AIがDeepMindのエンジニアが出荷するコードの大部分を書いているにもかかわらず、AI研究は速くなっていないと結論付けた。この分析では、2026年4月1日以降、AIの進歩ペースに統計的に有意な加速は確認されず、同社の能力指数は毎月0.1ポイントの一定ペースで上昇していた。同社はこれを、ML R&Dの自動化と加速に関する初の包括的実証評価と位置付けている。

この知見は、AIエグゼクティブたちに減速を求める声を上げさせているシナリオに反するものだ。これは「再帰的自己改善」として知られる。AIがより賢いバージョンの自分自身を作り、そのAIがさらに賢いバージョンを作り、やがて進歩が誰にもテスト、規制、停止できなくなるというものだ。レポートはこれを「既存のガードレールが深刻に不十分になる状況」と表現している。

「現在、AI駆動であれその他であれ、ML R&Dに有意なエンドツーエンドの加速は見られない。したがって、AI駆動のML R&Dによるリスクは現時点で低いと結論付ける」。この評価に携わったGoogle DeepMindの研究者Haydn Belfield氏は、X上のスレッドでこう書いた。ML R&Dとは、機械学習の研究開発、すなわち新しいAIモデルの構築作業を指す言葉だ。

1/9 In the Gemini 4 Argon Safety & Security Report, we published our first holistic empirical assessment of ML R&D automation and acceleration inside Google DeepMind — combining capability benchmarks, a macro capability index, data on AI-written code and trajectory outcomes, and… pic.twitter.com/Vr8Q5Obbsp

— Haydn Belfield (@HaydnBelfield) October 14, 2026

DeepMindがこの問題を追跡しているのは、「安全性、ガバナンス、社会の適応が追いつくよりも速く、AIがフロンティア能力の向上を加速させる可能性がある」からだとBelfield氏は書いた。自動化の拡大は、AIエージェントに社内システムへのより広範なアクセスを与えること、そして目標の整合性が失われた（開発者が意図しない目標を追求するモデル）が問題を引き起こす余地が増えることも意味する。

急上昇ではなく、着実な上昇

進歩を測定するため、チームはGCI v1を構築した。これは123のAIモデルのスコアを92のベンチマークにわたって統合し、モデルごとに単一の数値とする内部指数で、いわばAIのIQスコアだ。「フロンティアGeminiの能力は、毎月約0.1 GCIポイントという驚くほど一定のペースで向上している」とBelfield氏は書いた。この区別が重要なのは、真の再帰的自己改善であれば、定義上、まさにこの種の曲線に上向きの屈曲として現れるはずだからだ。

レポートの指数チャートでは、Gemini 1.5 Proは2024年末に0.5ポイント近く、Gemini 3.8 Flashは2026年9月に2.9をわずかに上回っており、ほぼすべてのリリースが直線に沿っている。Argonだけが約3.3でトレンドを上回るデータポイントとなっているが、その誤差範囲（真のスコアが実際に収まり得る範囲）は、低い方に伸びてトレンドラインに達している。

「Gemini 4 Argonはトレンドを上回っているが、これは計算資源と組織的投資の増加によるものであり、AI駆動の加速を反映したものではない」とBelfield氏は書いた。Googleは9月30日にGemini 4 Argonを発表した。

コードの大部分はAI執筆だが、人間が依然として舵を取る

DeepMindの本番コードの大部分は現在75%以上がAIによって書かれており、完全委任されたプルリクエスト（公開前レビューに提出されるコード変更のまとまり）の割合は、4月から9月の間に7.5%から11.9%に上昇した。それでもなお、「プルリクエストの約88%には依然として複数ターンにわたる人間による誘導または人間によるコード執筆が必要であり、コード変更は提出前に人間によるレビューの対象となっている」とBelfield氏は書いた。

DeepMindの幹部および研究者12人への調査では、自動化は「明確に定義された検証可能な実行タスク」で最も高く、「オープンエンドな科学的アイデア創出、新しい実験設計、微妙な学習不安定性の診断、長期的な研究の見極め」で最も低いことが分かった。平たく言えば、AIは指示の実行には優れているが、どのアイデアを追求する価値があるかの判断は苦手だ。

DeepMindはまた、社内でArgonがエージェントとして動作した1,389件のログを調査した。タスクが大きくなるほど、モデルが単独で完了する可能性は低くな、人間が介入する頻度が高くなった。全体として、Gemini 4 Argonは完了した社内研究エンジニアリングタスクの約半分を解決したにすぎず、DeepMindが完全自動化の危険信号とみなす90%のスコアを大幅に下回った。この公開された閾値は、今後の暴走自動化に関する主張を評価するための具体的な物差しを読者に提供するものだ。

これまでの警告への反論

このレポートは、これまで主に警告によって繰り広げられてきた議論の一方に、社内データを裏付けとして提示するものだ。レポートの公表は、Anthropic CEOのDario Amodei氏が再帰的自己改善はすでに加速していると主張してから1カ月後だった。この警告はSam Altman氏やElon Musk氏が支持し、半導体株を約6%下落させた。その数日前には、Anthropicの元エンジニアJacob Coxon氏が業界を退職し、AIが「今十年の終わりまでに私たち全員を殺す可能性がある」と警告していた。

DeepMindの数値は自社ラボのみを対象としており、レポートは、制限なしのArgonがサイバー攻撃および生物兵器情報に関する同社の危険閾値を超える可能性を排除できないとも述べている。