国連安全保障理事会は、長年にわたり核兵器、気候変動、パンデミックといった人類の存亡に関わる脅威についての審議の場となってきました。安保理事会は国際の平和と安全に対して第一次的責任を負う国連機関であり、その議題は各国政府がグローバルリスクをいかに共同的に捉えているかを示す大まかな指標といえます。2026年9月23日、そのリストに新たな項目が加わりました。人間の制御を超える可能性のある人工知能です。

OpenAIの最高経営責任者サム・アルトマン氏とAnthropicの最高経営責任者ダリオ・アモーディ氏は、年次国連総会の会期中、国家元首や政府首脳が一堂に会する9月のニューヨークでの集会において、安保理事会で発言しました。両氏は、技術の軌道がそれを統制すべき機関を追い越す前に、AI安全性をめぐる協力的な枠組みを構築するよう世界の指導者に呼びかけました。

両CEOの発言内容

アルトマン氏のメッセージは、共通の利害を中心とするものでした。氏は、強力な新技術の管理において各国には共通の利益があるとし、競争ではなくこうした共通の利害こそが国際的協調の基盤となるべきだと主張しました。

アモーディ氏は踏み込み、開発プロセスに十分な安全策が欠けていれば、AIは人類に現実のリスクをもたらしうると警告しました。氏の国連での発言に先立ち、9月12日に発表されたエッセイでは、AI能力開発のより慎重なペースを公に求め、内部チームでは実現できない説明責任を担保するため、独立した評価者をラボ内に配置することを提唱していました。

この会合は、登壇者名单にとどまらない意義を持つものでした。これは、フロンティアAIの安全性リスク、すなわち現時点の開発の最先端に位置する最も高性能なAIシステムを指す用語ですが、これに特化した初の国連安全保障理事会ブリーフィングであり、議論が学術会議やシリコンバレーのポッドキャストから正式な国際外交の仕組みへと移行したことを示すシグナルとなりました。

その他の著名な声も議論に加わりました。Hugging FaceのCEOクレマン・ドラング氏が参加し、現代の深層学習の基礎を築いた研究者の一人であり、AI開発における慎重さの一貫した提唱者であるヨシュア・ベンジオ氏も名を連ねました。また、中国のAI開発者も参加に招かれています。会話全体に地政学的な緊張が走る中で、注目に値する点です。

外交、意見の対立、そして再帰的自己改善

会合の多くを占めた具体的なリスクは、再帰的自己改善でした。すなわち、高度なAIシステムが人間による実質的な監視を超える形で、自らの能力を反復的に強化する可能性です。

この会合は、より大きな外交的文脈の中にも位置づけられます。米中間のAI規制をめぐる対話は静かに拡大しており、国連会合への中国開発者の参加は、西側諸国による標準策定の枠組みを多国間主義に見せかけたものとするのではなく、議論を真にグローバルなものにしようとする試みを反映しています。

しかしこの試みには、直接的な政治的な逆風が吹いています。ドナルド・トランプ米大統領は、AIを管理するためのグローバリストの陰謀と自らが特徴づけるものを公に拒否しており、この枠組みは、共通リスクを管理するメカニズムとしてではなく、米国の技術的優位性への脅威として国際的協調を位置づけるものです。

ベンジオ氏の存在は、異なる次元を加えました。氏は業的なAIエコシステムの外で活動しており、守るべき製品ロードマップを持ちません。OpenAIとAnthropicのCEOとともに参加したことは、国際的なメカニズムの必要性をめぐり、学術界の安全性研究者と業界リーダーがまれに一致を見せたことを示しています。

今後の展望

今回の安保理事会は、拘束力のある合意や正式な決議をもたらしませんでした。この区別は重要です。国連憲章の下で、安保理決議は加盟国に対して拘束力を持つことがあり、理事会の正式な行動は国際ガバナンスにおいて利用可能な最も強力な手段の一つとなります。

OpenAIとAnthropicにとって、グローバル基準の推進は諸刃の剣です。一方では、国際的な枠組みの形成に参加する業界寄りの企業は、既存の自社の慣行を反映した基準に行き着くことが多く、これは競争上の優位性となります。他方で、本格的な多国間の制度は、アモーディ氏が9月12日のエッセイで述べたような独立した評価と監督をもたらす可能性が高く、現時点では存在しない運営上の摩擦を生み出すことになります。

中国のAI開発の規模を考えれば、中国を除外した国際的なAI安全性の枠組みは、定義上不完全なものとなります。しかし中国を含めることは、根本的に異なる規制思想と政治体制を横断して交渉することを意味します。