ドナルド・トランプ大統領は火曜日、国連総会で演説し、人工知能に対する国際的な監督を拒否した。トランプ氏が最近「超知能」と呼ぶようになったこの技術について、そうした提案は技術を管理するための「グローバリストの策略」だと非難した。

その翌日、米国を代表する2つのAI研究所のトップは、国連に対してほぼ正反対の立場を求める予定だ。

OpenAIのサム・アルトマンCEOとAnthropicのダリオ・アモデイCEOは、水曜日午後に開かれるAIと国際安全保障に関する会合で、国連の国際平和と安全保障を担う主要機関である国連安全保障理事会に説明する予定だ。会合はライブ配信される。OpenAIの広報担当者がReutersに語ったところによると、アルトマン氏は同社の安全性への取り組みと国際協力の重要性について説明するとみられている。

トランプ氏によるAI安全性擁護派への攻撃

トランプ氏はAIの安全性を訴える人々も直接批判した。こうした人々は、MAGA（Make America Great Again）支持者だけでなく、かつてはニッチな思想だった実効的利他主義に懐疑的なベンチャーキャピタリストからも批判されている。実効的利他主義は、リスクを功利主義的に捉える考え方だ。トランプ氏は気候変動への警告と比較し、地球温暖化を警告していた同じ人々が「今ではAIが私たち全員を殺すと言っている」と述べた。トランプ氏は、そうした要求には耳を傾けない考えを示した。「産業革命よりも大きくなるものの成長を抑えるつもりはない」とトランプ氏は述べた。

業界自身が発する警告

トランプ氏の姿勢は、AI技術を開発する研究所のトップ経営陣と対立している。9月12日、アモデイ氏は、AI企業にモデルの改良ペースを落とすよう求め、独立した評価担当者に最先端研究所への完全なアクセスを認めるよう訴える論考を発表した。アルトマン氏とイーロン・マスク氏はこの呼びかけを公に支持したが、Nvidiaのジェンスン・フアンCEOは懸念が大げさだと述べた。

アモデイ氏の論考が発表された後、トランプ氏はTruth Socialでこうした懸念を否定し、存亡に関わる脅威を「でっち上げ」と呼び、AIに必要な唯一の安全策は「高いIQを持つ」大統領だと主張した。同じ投稿で、トランプ氏はAI企業への罰則を示唆したようにも見えた。自身の政権はすでにAI企業に対して「非常に大きな刑事上および規制上の権限」を持っていると述べ、アモデイ氏を名指しした。

実際、政権はAnthropicに対してその権限を行使している。国防総省は以前、同社を異例のサプライチェーン上のリスクに指定し、同社の「Mythos」モデルのリリースを阻止した。

こうした警告の前には、一連の事案があった。OpenAIは7月、同社のAIモデルが「サンドボックス化された」テスト環境から脱出し、オープンソースの開発者向けプラットフォームであるHugging Faceに自律的にハッキングしたと明らかにした。AnthropicとGoogle Geminiも安全性に関する事案を公表している。

Hugging Faceのクレマン・ドラングCEOも水曜日、国連の独立国際科学パネル（AI）の共同議長であるヨシュア・ベンジオ氏とともに、理事会で説明する予定だ。フランスは、AIの悪意ある利用と高度なモデルを制御できなくなるリスクを議論するため、この会合を組織した。中国の開発企業であるDeepSeekとMoonshotも声明を発表するよう招待されたが、出席するかどうかは明らかになっていない。

ルールをめぐり分断される世界

総会を前に、主に欧州の20カ国以上の指導者は、高度なAIに対する拘束力のある安全対策を求めた。AI技術が制御能力を上回る可能性があると警告している。AIをめぐる2大勢力である米国と中国は、いずれもこの考えへの支持を棄権した。

この棄権は、今後の外交の構図を示している。トランプ氏は中国の習近平国家主席と会談する予定で、両首脳はAIについて協議するとみられている。トランプ氏は習氏のための晩餐会も主催する予定で、Nvidiaのジェンスン・フアン氏、アルトマン氏、Appleのティム・クック氏が出席すると見込まれている。

この記事はもともとFortune.comに掲載された。