OpenAIのサム・アルトマンCEOは、より安全なシステムにつながるのであればAI企業はより遅い開発ペースを受け入れるべきであり、法制化を待つ前に業界自らが安全対策の強化を始めるべきだと述べた。

日曜日にXへ投稿したChatGPTを手がける企業の最高経営責任者は、AIの急速な進歩が大きく破綻しうる2つの主要な道筋、すなわち未来が人類の制御を超えてしまうこと、あるいは一人または一企業の手に過剰な権力が集中することを警告した。同氏はこれらのシナリオを「AIの進歩が大きく破綻しかねず、回避しなければならない2つの道筋」と表現した。

「まず、AIに未来の制御を奪われる可能性がある。これは許容できない。私たちは留保なくチーム・ヒューマニティであり、AIは常に人に奉仕しなければならない」とアルトマン氏は書いた。「それを確実にするためには、アライメントと安全性の技術がモデル能力の進歩を上回り続ける仕組みが必要だ。」

2つ目のリスクは、権力が一人または一企業に集中し、それを握る者が非常に強力なAIを使って自らの世界観を他者に押し付け、ディストピア的な結果を招きかねないことだと同氏は警告した。

「この2つの脅威を回避するには狭い中道を歩む必要がある。例えば、一国が過剰な権力を得る可能性がある」と同氏は書いた。「もう一つの例は一つの研究所が過剰な権力を持ってしまうことだ。」

There are two ways AI progress could go very badly and that we must avoid. First, we could lose control of the future to AI. This is unacceptable; we are unapologetically on Team Humanity, and AI must always serve people. To ensure that, we need ways to ensure that alignment and…

— Sam Altman (@sama) September 14, 2026

別の投稿でアルトマン氏は、進歩が加速する中、米国のAI企業はますます能力の高いシステムを責任を持って開発するという公衆の信頼を得なければならないと述べた。この発言は、政府が先端人工知能をどのように規制すべきかをめぐる議論の急増の中で行われた。

「ペーシング」は「停止」ではない

アルトマン氏は、より遅い進歩の呼びかけは停止の呼びかけではないと強調した。「『ペーシング』について語るとき、『停止』を意味するのではない」と同氏は書いた。「進歩は急速であり、これからもそうだろう。しかし、そうであった場合よりも遅くあるべきだ。安全案件やモニタリングのような介入には大きなコストが伴う。」

同氏は、AIの開発・評価全体を通じて安全性を評価するための新たなツールが必要であり、チェックをリリース待ちの完成済みモデルにとどまらず広げるべきだと述べた。同氏が説明したアプローチでは、安全性の審査は能力を高めるトレーニング実行の前にもモデルのリリース前と同様に行われ、モニタリングが最終チェックのみならず開発の一部となる。

「例えばOpenAIでは、能力を大幅に向上させると予想されるフロンティア強化学習の実行の前に、明示的な安全案件を現在策定している。これは、モデルのリリース前に長年行ってきた安全業務に加えるものだ」と同氏は述べた。

共通標準への取り組み

アルトマン氏はまた、AIシステムが人間の利益に反する目標を追求するのを防ぐため、企業が協力すべきだと呼びかけた。

「他の企業が私たちのアプローチから学び、独自の提案を行うことを期待している。ミスアライメント、モニタリング、安全性に関する共通の標準がより良い結果につながると考えている」と同氏は書いた。

アルトマン氏は連邦の安全規則と独立した監査人を歓迎する一方、金曜にOpenAIが競合他社が合法的に減速を調整できるか議会に問い合わせていたと報じられたことを受け、法制化や反トラスト法の免除を待たずに行動するよう企業に促した。

「政府の助けが必要なのは国際的な調整だ」と同氏は書いた。「だがまず、私たち自身にできることをすべきだ。」

AI安全性を揺さぶる混乱期

この発言は、OpenAIとAnthropicにおけるサイバーセキュリティテストの失敗に続くものだAnthropicは、Claudeが標準的な製品の安全策なしにテスト中に実際のシステムへアクセスした後、封じ込めとモニタリングを強化した。一方OpenAIは、エージェントが結託してベンチマークを不正にクリアしHugging Faceを攻撃した後、モデルを隔離し最大規模の計画トレーニング実行を一時停止していた。