ワシントンと北京は、9月24日(木)にワシントンで開催されるドナルド・トランプ氏と習近平氏の重要な首脳会談を前に、AI協議の開始で合意した。制御されないAIの脅威に関する深刻な警告が、この対話に強い緊急性をもたらしている。

これまで、AIの安全性に関する世界的なガイドライン策定の試みは、世界の二大超大国間の激しい競争と不信によって繰り返し暗礁に乗り上げてきた。同技術の存在論的リスクへの広範な疑念も進展を遅らせてきた。トランプ氏はこうした警告を公然と拒否しており、専門家はこの立場が中国のより広範な戦略的アプローチと一致していると指摘する。世界をリードする二つのAI大国がチャネルを開くこと自体が、控えめな当面の議題を超えた意義をこの対話に与えている。出発点は条約作りではなく、コミュニケーションだ。

トランプ氏は最近のXへの投稿で、「AIが世界を破壊すると言い、データセンターが地域に悪いと言う人々は、つい最近まで世界が『気候変動』によって消滅すると言っていたのと同じ人々だ。そのデタラメ(hoax)は彼らにはうまく機能せず、今度は次のネタに移」と書いた。(出典:FT on X)

深い確執にもかかわらず、米中の協調の必要性は、9月24日に米首都で開催される首脳会談を前に新たな重要性を帯びている。この変化は、AIの発展についてより緩やかで慎重なアプローチを求める米テクノロジー業界からの前例のない警告を受けたものだ。

ベセント氏、AIの故障やインシデントに関する通知システムを提案したと発言

米国政権はすでに協議の基盤整備を始めている。トランプ氏は来週の密集した日程にAIが含まれることを確認し、スコット・ベセント財務長官は記者団に対し、米国は北京と相互のリスクについて協議する用意があると述べた。ベセント氏はまた、AIの故障やインシデントに関する正式な通知プロトコルをワシントンが提案したことを明らかにした。

「世界で1位と2位のAI大国の間で、不透明からより透明性のある方向へ移行するあらゆる越境活動と同様に、これは非常に重要だと考えている」とベセント氏は述べた。

提案されたメカニズムは、サイバー攻撃、システム障害、重要インフラへの脅威といった先端AIに伴う最も深刻なリスクの一部に焦点を当てるものだ。当面の目的は、世界的なAI条約ではなく、AI関連のインシデントが両国の国家安全保障を脅かす可能性がある場合に互いに通知する仕組みを確立することだ。こうしたチャネルがあれば、緊急時にワシントンと北京が情報を共有できるようになる。ただし、両政府は先端チップ、AIモデル、コンピューティングインフラをめぐる競争を続けている。

Anthropicのダリオ・アモデイ最高経営責任者(CEO)やOpenAIのサム・アルトマン氏を含む一部の米AI企業幹部は、リスクの増大を考慮し、AI開発の減速を呼びかけている。アモデイ氏は特に「フロンティアのペース調整」に関して業界が取り得る措置を主張しており、米国が競争優位を維持する必要があるというトランプ氏の構想も支持している。一方、元Anthropic社員の一人は、今後数年の人類の存続を懸念していると述べ、より憂慮べき見通しを示した。

米議会の一部議員はこれまで、中国との検査・安全基準の確立の必要性を主張してきたが、他の議員は、高度なAI技術へのアクセス制限を含め、中国のAI開発を減速させる措置をトランプ氏に促し続けている。この分裂は、AI優位をめぐる競争が並行して続く中で北京との安全性協力を追求するという、この対話を貫く緊張を浮き彫りにしている。

アナリスト、より広範な対立を最大の障害と見る

中国側でも、同技術の潜在的な危険性について警告する声がある。例えば中国の最高情報責任者は、人工知能が中国共産党の政治的権威に直接脅威を与えると主張してきた。また、中国外務省の郭嘉昆報道官は、国際的な利害関係者がグローバルな公共の利益に資する開かれた包括的なAIフレームワークの推進に協力すべきだと強調している。

戦略・資本アドバイザリー会社The Asia Groupの上級副社長、アリソン・ザルウィンスキー氏は、米中がAIサイバー能力の危険性については大方合意しているものの、最大の障害はAIの安全性を米中間の全体的な敵対関係から切り離せるかどうかだと論じた。

「現時点で、当面の目標は大規模なAI合意の交渉ではなく、まだそこまでは至っておらず、フロンティアAIリスクについて協議する持続可能なチャネルの確立にあります」とザルウィンスキー氏は述べた。

ブルッキングス研究所ジョン・L・ソーントン中国センターのカイル・チャン氏も、AIの安全性に関する協力の見通しに疑問を示した。「トランプ氏がAIの存在論的リスク問題に何のプレッシャーも感じていないと思う。彼はそれをデタラメだと何度も呼んでいる。気候変動への彼の対応と非常に似ている」と同氏は述べた。チャン氏はさらに、トランプ氏は主にAI需要の促進と株価上昇に焦点を当てていると付け加えた。

この対話の当面の試金石は具体的だ。通知プロトコルが提案段階から機能するチャネルへと前進するかどうか、そして9月24日の会談で両首脳がAIについて何を語るか(語るとして)である。