チャールズ国王、AI指導者らに「すべてが手遅れになる前に」技術のコントロールを確保するよう警告
重要ポイント
- •チャールズ3世国王は、スコットランドのダンフリース・ハウスでAI企業の幹部、政府関係者、研究者約30人に対し、手遅れになる前に人類がAIを十分に管理する手段を必要としていると述べた。
- •DeepMind共同創業者のデミス・ハサビス氏は、汎用人工知能（AGI）はおそらく数年先であり、産業革命の10倍のインパクトを持ちうる一方、問題が起きる確率はゼロではないと述べた。
- •時価総額約5.15兆ドルのNvidiaのCEO、イェンスン・フアン氏は、技術そのものではなくAI製品の規制を主張し、小規模な国々や研究者が締め出されないようオープンモデルを擁護した。
- •OpenAIのCFOサラ・フライアー氏は、ますます強力になるAIを人類のために役立て続けることは、一社や一国の政府だけでは不可能だと述べた。
- •サミットは、Anthropicのエヴァン・ヒュービンガー氏による「AIが人類絶滅を引き起こす確率は10%」という予測や、OpenAIの不正行為開示システムの発表など、業界内部の警告が相次ぐ中で開催された一方、トランプ大統領はこうした懸念を「デタラメ」と退けた。
チャールズ3世国王は、世界最大級の人工知能企業のトップたちに対し、この技術を人間のコントロール下に置く方法を見出さねばならないと述べ、AIを開発した本人たちこそが「より暗い能力」の発達、さらには殺りくへの転用を恐れるようになっていると警告した。
スコットランドでの非公開会合
国王はこの発言を、スコットランド・イースト・エアーシャーのダンフリース・ハウスで開かれたDitchley Foundation主催の会合で行った。イベントには約30人の幹部、政府関係者、研究者が集まり、その中には英国のAI担当大臣カニシュカ・ナラヤン、Nvidia最高経営責任者（CEO）のイェンスン・フアン、DeepMind共同創業者のデミス・ハサビス、OpenAI最高財務責任者（CFO）のサラ・フライアー、ropicのグローバル問題責任者ティノ・クエジャルが含まれていた。
Bloombergが閲覧した非公開の招待者リストによると、MI6のブレーズ・メトレウェリ長官、作家のユヴァル・ノア・ハラリ、清華大学の薛瀾（Xue Lan）氏も含まれていたとされる。フロンティアラボの幹部たちが政府大臣、情報機関の長、作家、バチカンの顧問と同じ席に着くというこの顔ぶれは、AI安全性が技術的な議論から国家戦略の問題へとどれだけ進展したかを示していた。
77歳のチャールズ国王は、実りある議論になることを願って退席するまで、わずか約20分間講話を行った。人類の道徳的核心を重んじる人々は、国王の言葉によれば、「運命を、あるいは魂を失わないとの保証を、不安のうちに貴殿らに求めている」という。
国王はこの技術の進展の速さを「魅了すると同時に、等しく深く憂慮させるもの」と表現した。医療やライフサイエンスにおける実績を認めて称賛したうえで、出席者に率直な問いを投げかけた。「すべてが手遅れになる前に、十分な管理手段が必要なのではないでしょうか？」
国王は警告の中で、AI技術の開発者たち自身の懸念に言及した。そのうえで、こうしたシステムには「より暗い能力が発達し、命さえ奪いかねない」リスクがあると述べ、幹部らにはこうしたツールが悪意ある者の手に渡ることの「実存的な危険」を考慮すべきだと促した。
チャールズ国王がこうした懸念を口にしたのは初めてではない。2023年には英国のブレッチリー・パークで開催されたAI安全サミットにビデオメッセージを送り、同様の見解を表明していた。バチカンのAI顧問パオロ・ベナンティ氏はスコットランドのサミットに出席し、レオ14世法王は5月の勅書において、AIが「少数者」の手に留まり続けてはならないと記していた。
AI幹部たちの発言
デミス・ハサビス氏は出席に対し、汎用人工知能（AGI）――多くのタスクで人間に匹敵あるいは凌駕しうるシステム――は「おそらく数年先」であると述べた。こうした技術は産業革命の10倍のインパクトをもたらしうるという。問題が起きる確率は「間違いなくゼロではない」が、「未来はまだ書かれていない」と続けた。
サラ・フライアー氏は、力を増すこの技術を人類のために役立て続けるかという課題を提起し、「一社あるいは一国の政府だけでは、それは不可能だ」と述べた。
時価総額約5.15兆ドルのNvidiaを率いるフアン氏は、安全性が最優先であり、準備が整っていない製品は投入を見合わせるべきだと述べた。技術そのものではなくAI製品を規制するよう主張し、小規模な国々や研究者が締め出されない手段としてオープンモデルを擁護した。技術そのものへの規制か、それを基盤とする製品への規制かというこの区別は、世界中の規制議論の中心に位置づけられている。どの単一の主体にも技術を管理できないというフライアー氏の警告と併せて、このやり取りは現在AIガバナンスを形作る二つの大きなアプローチ――ルールをどこに適用するか、そして誰が担うか――を浮き彫りにした。
業界内部の警告で鋭くなる議論
サミットは、Anthropicの研究者ジェイコブ・コクソン氏の拡散した辞任投稿や、同僚のエヴァン・ヒュービンガー氏による「AIが人類絶滅を引き起こす確率は10%」という予測を受けて、業界内部の警鐘が鳴り響く中で開催された。Cryptopolitanは、Anthropicのダリオ・アモディ氏が研究室に「フロンティアのペースを調整する」よう促すエッセイを発表したこと、またOpenAIが今週、懸念される行動を6件記録したことを受け、モデルの不正行為を開示するシステムを発表したことを報じている。
ただし、この危険を現実のものと認めない人々もいる。トランプ大統領はこうした懸念を「タラメ（hoax）」と一蹴した。その溝がどう埋まるか――OpenAIの新たな開示システムのような研究室主導の安全策か、フアン氏が支持する製品中心の規制か、アモディ氏が促したフロンティアの「ペース調整」か――が、幹部たちをダンフリース・ハウスの外へも付きまとう問いとなっている。
