ワシントンとシリコンバレーでは、人工知能をめぐる新たな対立が起きている。それは「ペーシング」、つまり安全対策やアラインメント、そして社会が追いつくまでフロンティアモデルの開発を意図的に遅らせることをめぐる論争だ。批判派は、ペーシングを中国との競争における一方的な武装解除だと表現する。支持派は、開発者自身が壊滅的なリスクを警告している技術に対する、唯一責任あるアプローチだとみなす。

しかし双方は、「コンピュート対GDPの誤謬」と呼べる考え方を受け入れている。これは、AI性能の向上が一つ一つ積み重なるたびに、それが直ちにマクロ経済の生産高になるという前提だ。電力、コンピューター、インターネットのように、あらゆる産業にまたがる基盤的なイノベーションである過去の汎用技術は、経済全体に浸透し、測定可能な生産性向上を生み出すまでに数十年を要した。AIも加速されたペースで同様の道筋をたどっているが、世論では歴史や経済のパターンが今回は当てはまらないかのように語られることが多い。

米国企業はすでにAIのフロンティアから数年遅れている。フロンティア研究所の商業的な成否を決めるのは、生の性能よりも信頼と導入だ。したがって、一定期間のペーシングが経済に与えるコストは比較的小さい。中心的な議論が、間違った制約に焦点を当てているからだ。

ペーシングに対する懐疑には根拠がないわけではない。これは本当の安全対策なのか、それとも新規株式公開を前に財務状況を強化しようとするフロンティア研究所やサイバーセキュリティ企業による巧妙なマーケティング戦略なのか。開発を遅らせれば、米国は中国にAIの主導権を譲ることになるのか、それとも北京も独自の形でペーシングに応じるのか。

フロンティア問題

AIは重要な能力上の節目に到達した。壊滅的リスクや存亡に関わるリスクについての警告は、近い将来に発生する確率が依然として小さいとしても、もはや全面的に退けることはできない。しかし、フロンティア研究所は最先端モデルに過度に集中することで、対外的なメッセージと信頼の問題の双方に適切に対処できていない。

近刊予定の書籍『When Machines Act』のためにCEO、政策指導者、AI科学者と最近行った100件超の対話を通じて、著者らはペーシング論争が第一原則を見失っていると確信した。重要な区別が曖昧になっている。研究所が閉ざされた環境で行う高度な研究と、一般に提供する製品は同じではない。

より重要な問いは、研究所が研究そのものを遅らせる必要があるのか、それとも商用製品の安全性を確保する取り組みを改善すべきなのかもしれない。

アラインメント問題

2022年にChatGPTが公開されて以来、企業の経営層は、現代の商業史でほとんど例を見ない速度で動員されてきた。しかし、企業向けテクノロジーの構造上、経済全体への吸収は本質的に遅い。分断されたデータサイロ、旧式のエンタープライズ・リソース・プランニングシステム、厳格なコンプライアンス要件、そして不十分なデータ衛生が、いずれも障害となっている。

「トークンマキシング」――業務に必要な規模をはるかに上回るモデルに日常的なタスクを割り当てること――が引き起こした企業予算への衝撃も、多くの日常的な業務フローにははるかに単純なモデルで十分だという事実を示している。平均的なFortune 500企業で、フロンティアシステムを必要とするタスクはごくわずかだ。したがって、ペーシングによって経済的な生産高が大きく損なわれたり、研究所の収益が途絶えたりすることはない。企業には、すでに利用可能な能力を吸収する時間が必要だからだ。

高業績企業の3分の2超が、AI導入の最大の障壁としてデータを挙げている。これはモデルが急速に進歩しているにもかかわらず、解消していない障害だ。McKinseyによると、自社のデータがAIに対して「完全に準備できている」と答えた企業は7%にすぎず、データ戦略を持つ企業は4分の1未満だった。また、Cloudera and Harvard Business Review Analytic Servicesの報告書とGartnerの発表によれば、63%はAIに適したデータ管理を欠いているか、整備されているかどうか分からないと答えた。

コンピュート対GDPの誤謬

McKinseyのシニアパートナー、アストシュ・パディ氏がファリード・ザカリア氏との出演で強調したように、技術的に利用可能であることと、経済が変革されることは根本的に異なる。汎用技術は歴史的に、業務フローを再編し、広範な生産性向上を生み出すまでに数十年を必要としてきた。

電力が経済全体の生産性を引き上げるまでには75年かかった。コンピューターには50年、インターネットとモバイル端末には25年を要した。AIモデルの準備が整っていても、それを大規模に利用するために必要な組織再編には相当な時間がかかる。McKinseyが企業社会を調査したところ、「大きな」影響とわずかな収益への寄与を報告した企業は6%にすぎなかった。State of AIレポートは、企業への導入についてさらなる文脈を提供している。

企業は、1世代または2世代前のモデルでもすでに実行できる、報酬が大きくリスクの低い自動化タスクに注力している。高く評価されている元ウォール街CEOの一人は、これらのシステムが何年にもわたってレガシーシステムと並行稼働し、正常に動作することや、規制リスクを知らないうちに取り込んでいないことを確認すると述べた。

したがって、フロンティア研究所がどのような判断を下すかにかかわらず、導入のペースは米国企業自身が決めることになる。どの業界の企業も、危険だと認識している製品を発売すべきではない。AIも例外ではない。

半導体市場でも、同様の動きが起きている。最新のアクセラレーターをめぐる競争のなかで当初は脇に追いやられた旧世代チップが、企業需要の大部分を占める実用的な推論ワークロード、つまりモデルの訓練ではなく導入済みモデルを日々動かす処理の主力として、第二の人生を迎えている。

Growth Protocolの創業者兼CEOであるミロ・ディミトロフ氏は、前週のYale CEO Caucusで、ニューロシンボリック・アーキテクチャによって実際の顧客導入における推論コストをおよそ80分の1に削減できたと述べた。節約の大部分は、処理を極めて高価なGPUから、一般的な企業向けCPUへ移したことによって実現した。

AI導入の3段階

企業によるAI導入は、企業が責任を持って委ねられる業務量によって区分される3段階として理解できる。進展は、データの準備状況と、システムが獲得した信頼の度合いによって制約される。

第1段階は支援だ。これは、Salesforceのような企業向けプラットフォーム上に構築された既製のコパイロットで構成される。こうしたツールは既存アプリケーション間のデータを接続し、大規模な再設計なしに従業員の業務を迅速化する。作業の多くを人間が引き続き担うため、投資回収は早く、リスクも限定的になり得る。

第2段階はオーケストレーションだ。これは、従業員に代わって複数段階のタスクを計画・実行するAIシステムであるエージェント型ワークフローを指す。専有データの整備や、もともと連携を想定していなかった遠隔地のデータレイクを接続するために、大規模な投資が必要になる。重要な各ステップは、人間が関与して承認する。

第3段階は自律性であり、相互接続されたシステム全体でエンドツーエンドのエージェント型業務が稼働し、人間は例外が発生した場合に監督する。

段階が進むほど潜在的な報酬は増えるが、それに伴ってリスクと必要な信頼も増す。平均的なFortune 500企業のCEOが、オーケストレーションに備えて多額の初期投資を行いながら、依然として支援段階にとどまっているのはそのためだ。各段階は企業全体で一様に進むわけでもない。大半の企業は複数段階にまたがるポートフォリオを管理し、先進的な一部の部門でオーケストレーションを試行する一方、組織の残りの部分では基本的な支援に慣れていくことになる。

3段階すべての前提には、AIが従業員ハンドブックの規則に従い、法を守り、人間の価値観と判断力を基盤として維持するというCEOの信頼がある。したがって、投資家やメディアの論者、市場関係者が、AIのアラインメントに向けたペーシングがフロンティアモデルの進歩を妨げると懸念するのは、企業価値が生み出される仕組みを取り違えている。

この論争は、「AGI」、つまり大半の認知タスクで人間と同等またはそれを上回る能力を持つ人工汎用知能をめぐる曖昧な約束や警告、そして「シンギュラリティ」に到達することで得られる機会と壊滅的リスクによって、さらに複雑になっている。アラインメント自体も主観的な概念であり、研究所や個人によって定義が異なる。アラインメントという言葉が使われたときに返すべき問いは、さらに別の問いだ――何に対するアラインメントなのか。

AI技術が人間の仕事を自動化することを目的とするなら、現在または将来の従業員に求められる価値観、判断力、道徳的行動と同じ基準を満たすべきだ。最も高度なフロンティアモデルが試験環境でその基準を満たせないなら、公開の準備はできていない。この原則は、危険な製品から消費者を守るために米国が長年維持してきた法律とも整合する。

米連邦取引委員会（FTC）の元委員長、リナ・カーン氏もXで同様の指摘をした。「危険で欠陥のある製品を規制する広範な法律が存在する……審査を受けていないAIモデルやエージェントの公開は、消費者保護法に違反する可能性がある。異常動作や欠陥のあるAIエージェントを検知・停止するための十分な措置を講じずに欠陥のあるAIツールを出荷することは、FTC法（および同様の州法）上、『不公正または欺瞞的』な行為または慣行となり得る」。投稿はこちらで確認できる。

こうした法律は、消費者、従業員、投資家、患者、競合他社への損害だけでなく、企業が依存する市場や金融システムへの損害についても、企業に責任を負わせる。

米中、スピード、信頼

中国によるAIモデルの蒸留――より大規模なフロンティアシステムの出力を再現するよう小規模モデルを訓練する手法――をめぐる議論でどの立場を取るにせよ、中国が現在、市場にあるフロンティアモデルに匹敵するシステムを保有しているという事実は変わらない。中国共産党はまた、フロンティアをさらに押し広げるよりも、AIを経済全体に普及させることに軸足を移すと示している。

したがって、フロンティア研究所は2つの競争に同時に参加している。1つは「AGI」や「超知能」に到達する競争であり、もう1つは顧客の財布の中で占める割合を獲得する競争だ。主にFortune 500企業である最も確立した顧客が証言できるように、購入判断が下された後に顧客を取り戻すことは極めて難しい。中国はこの力学を理解しており、それが米国が大部分で敗北した世界的な通信競争で中国の勝利を後押しした。

中国共産党もアラインメントに深い懸念を示している。北京の国内向けアラインメントは国家による統制、党の正統性、公式の物語との一貫性を重視する。これに対して西側のアラインメントは、受託者としての信頼性、消費者の安全、製造物責任に重点を置く。そのイデオロギー上の隔たりの下には、両制度に共通する商業上の現実がある。予測不能で「幻覚」を起こし、組織の規則に従わず、適切な判断をせず、制度上の防波堤を尊重しないエージェントは、基幹業務のワークフローを任せることも、持続的な経済成長を生み出すことも信頼できない。

トランプ政権は、AIが意図的か偶発的かを問わず大量破壊や大惨事を引き起こさないよう、習近平国家主席との協力・調整の機会を引き続き追求すべきだ。トランプ氏がこの問題を取り上げるかどうかは別の問いである。

CEO Caucusでは、約100人のCEOを対象にした調査で、93人がAIの危険性に関する警告を大統領が「でっち上げ」と呼ぶのは正しくないと答えた。約90%は、国賓訪問中に大統領が中国とのAI安全に関する共同指針の必要性を強調すべきだと答えた一方、ほぼ4分の3は大統領がそうするとは予想していなかった。Axiosによれば、ベッセント財務長官と中国側の担当者との準備協議によって、約75人の経営者の予想は近く覆される可能性がある。

ペーシングの期間は、何もしない休暇でも経済的な停戦でもない。それは、防御を強化するための積極的な期間となる。次世代のフロンティア能力を解放する前に、ワシントンと北京は、自律型エージェントによる攻撃から重要インフラを守るための時間を必要としている。

人間とのアラインメントは課題の半分にすぎない。その期間中、直ちに優先すべきなのは社会を支える制度を強化することだ。AnthropicがProject Glasswingの下でMythosを限定的に展開して示したように、金融、医療、教育のシステムは最先端モデルによって脆弱性を検証されるべきだ。モデルは高度なエンジニアリングによって防御を突破したが、攻撃が成功したのは企業のデジタルインフラに体系的な弱点があったためだ。

フロンティア研究所は、超知能に向かう単一の競争をしていると考えているかもしれない。しかし、商業的な成否を決める競争は、よりゆっくりと進むものだ。すなわち、自分たちが構築するものと共に生きなければならない企業、規制当局、市民から信頼を獲得する競争である。スピードは見出しを生むかもしれないが、顧客を勝ち取るのは信頼だ。

この競争は短距離走ではなくマラソンだ。長距離レースの前半はペース配分のためにあり、後半は追い抜くためにある。鉄道からインターネットに至るまで、あらゆる技術革命で最大の富を得たのは、入植者が到着するまでフロンティアにはほとんど価値がないと理解していた人々だった。

Fortune.comの論考記事に示された意見は、執筆者の見解のみを示すものであり、必ずしもFortuneの意見や信条を反映するものではない。このレポートには、共著者のデビッド・シーゲル氏による追加コメントが反映されている。この記事は当初、Fortune.comで掲載された: https://fortune.com/2026/09/22/ai-pacing-debate-how-fast-slow-wrong-debate-frontier