ホワイトハウスは、ドナルド・トランプ大統領が米国最大級のAI企業のトップらとともに署名した「道義的拘束力のある」自主的な安全協定を公表した。この動きは、協定を支持すべきかをめぐり、議会内に亀裂を生じさせている。

議会側の批判の背景には、過去の自主的な安全対策が不十分だったとの不満がある。これには、ジョー・バイデン前大統領とAmazon、Anthropic、Google、Meta、Microsoft、OpenAIの間で合意された2023年7月の取り決めも含まれる。

9月のAI自主安全協定に署名したのは誰か？

トランプ氏がTruth Socialに投稿した文書によると、大統領は協定を承認し、企業側からはGoogleのSundar Pichai氏、AnthropicのDario Amodei氏、MetaのMark Zuckerberg氏、NvidiaのJensen Huang氏、OpenAIのGreg Brockman氏、XのElon Musk氏の6人が署名した。

Roll Callによると、Mike Johnson下院議長は、署名者らが昼食会で「ホワイトハウス・スーパーインテリジェンス協定」を可決したと述べた。同紙は、「フロンティアにおける責任に関する共同コミットメント」の下で「各社が自社技術を安全に開発する責任を負う」と報じた。

文書では、4つの責任が定められているとされる。

• 各社は、自社モデルに対する社内管理と監視を実施することに同意した。
• 各社は、独立した評価を行う外部機関を雇うことに同意した。
• 独立した取締役会委員会が内部監査報告を審査し、見つかった問題を是正する。

協定は、署名者が「基準とベストプラクティスを策定するため定期的に会合を開く」としており、文書は「時間の経過とともに、これらの措置を法律や規制に明文化することが適切になる可能性がある」と認めている。こうした約束が法的強制力のある規則の代わりになり得るかどうかが、現在、議会を分けている争点だ。

トランプ氏：「道義的拘束力があると思う」

協定について問われたトランプ氏は、「道義的拘束力があると思う」と答えた。大統領はいつものように、より大きな比較対象を持ち出し、「ある意味では、ほとんど憲法のようなものだ」と述べた。

トランプ氏は、業界に自らを監督させる方針を改めて強調し、「非常に大規模な自主規制が行われている。各社は自ら規制しなければならないと理解している」と語った。なぜその解決策を好むのかについては、「各社の存続がかかっているからだ」と付け加えた。

トランプ氏はまた、週末に実施した世論調査を受け、人工知能を「スーパー・インテリジェンス」と改称する案に再び言及し、そのための大統領令に署名すると述べた。さらに、数日以内に「AI皇帝」を指名するための10人委員会を設置する計画も明らかにした。AI皇帝の選定が最も近い時期に実施される注目事項であり、大統領令については現時点で具体的な期限は示されていない。

議会はAI協定を支持していない

議会側の全員が、議員を排除した会合のあり方や、決議の規模を支持したわけではない。議員らは、この決議では、OpenAIとAnthropicの元研究者であるJacob Coxon氏がAIについて「10年以内に私たち全員を殺す可能性がある」と警告した後に深刻化した状況の緊急性に対応できていないと主張している。

OpenAI、Anthropic、Metaはいずれも、連邦政府のデータベースを含め、本来アクセスを許可されていなかったシステムを不正なモデルが調査した事例を明らかにしている。

会合後の声明で、バージニア州選出の民主党上院議員Mark Warner氏は、企業自身が技術の進歩が安全対策を追い越していると警告していると述べた。Warner氏は「大統領の対応は？名前を変え、開発企業に自ら規制するよう求めることだ」と語った。

Warner氏はその火曜日、すでに法案の審議を進めようとしていた。上院本会議で同氏は、商務省内にAI安全委員会を設置するための満場一致の同意を求めた。この委員会には、強制力のある基準を設定し、新たなフロンティアモデルへの公開前最低45日間のアクセスを要求し、30日以内、または差し迫った国家安全保障上の脅威については72時間以内のインシデント報告を義務付ける権限が想定されていた。満場一致の同意は、1人の上院議員の反対で阻止できる迅速な手続きだ。協定に列挙された約束には、これに相当する公開前アクセスや固定された報告期限は含まれていない。

テキサス州選出の共和党議員で商務委員長を務めるTed Cruz氏が反対し、法案は停滞した。ハワイ州選出の民主党議員で共同提案者のBrian Schatz氏は、「人類史上最大級のIPOに向かっている」企業が自発的に自らを抑制するのか疑問を呈した。

反発は民主党だけに限られない。ミズーリ州選出の共和党議員Josh Hawley氏は、Washington Postの論説で、フロンティアモデルに公開前の義務的試験を課すべきだと主張した。一方、Johnson氏は議会が「ハンドルをしっかり握り続ける」と約束したものの、具体的な法案への取り組みは表明しなかった。

Warner氏の現在の判断は、当時の判断とよく似ている。2023年、同氏はこうした約束について「正しい方向への一歩」だが、「業界のコミットメントだけでは不十分だ」と述べた。