Anthropic、AIが作るAIは安全性の監視を追い越し市場に影響を与えうると警告
重要ポイント
- •2026年5月までに、ClaudeはAnthropicのソフトウェアプロジェクトにエンジニアが貢献したコードの80%以上を生成しており、2026年第2四半期には典型的なエンジニアの1日あたりのコード貢献量が2024年の8倍だった。
- •Anthropicの8月の測定では、ClaudeがAI研究開発タスクの26%を主導しており、2月の1%未満から増加していたが、測定された仕事で完全に自律的なものはなかった。
- •Anthropicの6月4日の評価は、いずれのシステムも自律性を達成する前に、AIによる加速された開発が安全性チェックや規制監視を追い越す可能性があると警告した。
- •AnthropicのCEO Dario Amodeiは9月のエッセイで、AI能力の改善の減速と独立した評価者の創設を呼びかけた。これはOpenAIが9月16日に懸念されるモデル挙動の6事例を詳述した開示を行った後のことである。
- •2025年に民間AI投資は127.5%増加し、米国の投資は中国の23倍に達した。チップ、クラウドインフラ、データへのアクセスの集中により、大手ラボの小規模な競合に対する優位性が拡大する可能性がある。
人工知能は、より高性能なモデルの構築に必要な作業のかなりの部分を担うようになっている。Anthropicは、Claudeがすでにこのプロセスを加速させていると述べているが、モデル自身がまだ後継を作り出せるわけではない。6月4日の評価で同社は、この進歩によりAIが安全性チェックや規制監視を直接追い越すリスクが生じると警告した。
AIが自らを作るとは何か、そしてまだ意味しないこと
Claudeはまだ再帰的自己改善には達していない。それは、AIが人間の関与なしに自らの後継を作成・訓練する段階である。Anthropicによると、これまでのところその能力を達成したシステムはない。この区別は監視にとって重要である。現在進行中の加速が、いずれのシステムも自律性に近づく前の期間において、人間の監督下にあるワークフローの中で展開していることを意味するからだ。
完全な自律性がないにもかかわらず、ClaudeはAnthropicのコーディング作業の多くを担うようになった。2026年5月までに、このモデルは同社のソフトウェアプロジェクトにエンジニアが貢献したコードの80%以上を生成していた。2026年第2四半期には、典型的なエンジニアが1日に貢献するコード量は2024年の8倍だった。
これらの数字はコーディング成果物の伸びを示してはいるが、実際にどれだけの有用な作業が行われているかを必ずしも示していない。METRが引用した調査は、349人の技術系従業員を対象としたもので、AIツール使用時に仕事の価値が自己報告ベースで中央値1.4〜2倍増加したことが分かった。
Claudeが主導する26%、完全自律の仕事はゼロ
Claudeの役割は現在、コード作成をはるかに超えて拡大している。Anthropicの8月の測定では、このモデルがAI研究開発タスクの26%を主導しており、2月の1%未満から増加していた。Claudeはその作業の90%以上で協力または主導していたが、全過程で人間が関与し続け、測定された仕事で完全に自律的なものはなかった。2月から8月へのこの急増は、観察者にとって基準線ともなる。今後の測定更新により、研究作業に占めるAIの割合が上昇し続けるかを追跡する手段が提供される。
両者の研究は異なるものを測定している。AnthropicはAIシステムの助けを借りて行われるコード生成と研究を追跡し、METRは従業員が仕事の価値の増加をどう認識しているかを把握している。いずれの研究も、AIがそもそもどの研究課題を解決すべきかを判断できるかどうかは示していない。
自己改善モデルがなくても加速が複利的に進みうる仕組み
研究を速めるために、AIが完全に自律的である必要はない。10月のRANDレポートによると、AIエージェントは自らの後継を作ることなく、より強力なモデルの作成に貢献できる。機密性の高いモデルやコードへのアクセスは、すでにセキュリティリスクとなっている。
METRのエコノミストは、データの可用性、計算能力、実証研究を実施する能力などの要因が制約となりうると指摘している。これらの同じ要因は、加速が続くかどうかを判断する際に研究者が監視すべき具体的な条件を与える。それでも、AI開発の持続的な加速の可能性を否定してはいない。開かれた問いは、独立した安全性レビューがAIを活用した実験に追いつけるかどうかである。そうでなければ、完全な自律性が到来するずっと前に監督が後れを取る可能性がある。
フロンティアの速度設定から監視へ
こうした懸念により、AnthropicのCEO Dario Amodeiは開発の減速と独立した評価者を求めた。「我々はAIモデルの能力を改善するペースを遅くしなければならない」と、9月のエッセイで述べた。
OpenAIの9月16日の開示は、懸念されるモデル挙動の6事例を詳述した。Cryptopolitanもまた、AI開発を減速すべきかをめぐる技術リーダー間の意見の分裂を報じた。
しかし、安全性の懸念で合意しても行動が保証されるわけではない。CSISは、外部の評価者が利益相反を回避しなければならず、政府も規制の捕捉を警戒しなければならないと警告した。業界全体の合意は依然として不確実であり、独立した評価者が実際に形になるかどうかが、ペース設定をめぐる議論が具体的な変化をもたらすかの最も近い試金石となる。
資金は計算資源を追う
この議論には重大な金銭的利害も伴う。Stanfordの2026 AI Indexは、2025年に民間AI投資が127.5%増加し、米国の投資が中国の23倍に達したことを明らかにした。OECDもまた、チップ、クラウドインフラ、データへのアクセスが集中したままだと警告している。
その結果、パラドックスが生じる。AIは研究のコーディングを安価にするかもしれないが、高性能モデルの訓練とテストには依然として莫大な投資が必要である。したがって、より速い開発は、大手ラボに小規模な競合他社に対するさらなる優位性をもたらしうる。
