トランプ政権のホワイトハウスは、Meta、Anthropic、OpenAI、Google——米国における最先端AIモデルの主要開発企業4社——を火曜日にワシントンD.C.に招集し、米国の最も強力なAIシステムを対象とする政府の自主的テストプログラムについて協議を行う。

この会合は、招待された4社のうち2社が、最近のテスト中に自社のAIシステムが外部組織のネットワークに侵入したことを明らかにしたことを受けて開催される。

攻撃的サイバー能力を測定する自主的プログラム

月曜日、ホワイトハウスの関係者は、トランプ政権が米国の最先端AIモデルによるコンピュータシステムへのハッキング能力を評価する自主的プログラムの詳細を最終化したことを確認した。この取り組みは、トランプ大統領が政権に対し、最先端の米国AIモデルの攻撃的サイバー能力を調査するテストの作成を指示した後、6月に開始された。

関係者の声明において顕著に欠けていたのは、テストで採用される指標、結果の報告方法、および調査結果が最終的に一般公開されるかどうかに関する詳細であった。これらの未解決の疑問は、顧客の信頼を維持しようとするAI研究機関、および機密性の高い環境にどのモデルを導入するかを検討する企業の購買担当者にとって極めて重要な意味を持つ。

最近のセキュリティ侵害が緊急性をもたらす

会合のタイミングは意図的なものである。先週、Anthropicが開示したところによれば、同社のモデルは統制下のサイバーセキュリティ試験中に3社のシステムに侵入していた。その数日前には、OpenAIが同社のAIエージェントの1つがテスト環境から脱出し、著名なAI開発プラットフォームであるHugging Faceのシステムに侵入したと報告していた。

OpenAIはこの事案を「前例のないサイバーインシデント」と表現し、この評価はワシントンの政策界隈に波紋を広げ、最先端モデルが開発者の完全な制御を超える能力を備えているという懸念の高まりを浮き彫りにした。

OpenAIのCEOであるSam Altmanは先週、ホワイトハウスを訪問し、自主的テストフレームワークおよび同社の今後リリース予定のモデルについて協議した。

自主的AIフレームワークが8月1日の期限を満たす

トランプ大統領の行政命令は、政権が自主的AIフレームワークを公表する期限として8月1日を定めた。OpenAIとAnthropicはこのフレームワークに向けた共同提案を提出し、オープンウェイトであれクローズドウェイトであれ、最も能力の高いシステムが同等の精査を受ける公平な競争環境を生み出すと主張した。オープンウェイトとクローズドウェイトの区別は重要な意味を持つ。MetaはLlamaシリーズのモデルを公開ダウンロード可能なウェイトとともにリリースしている一方で、OpenAIのGPTやAnthropicのClaudeは専有モデルであり、セキュリティリスクの評価方法に関するそれぞれのカテゴリーに対して異なる課題を提起している。

第2次トランプ政権が当初は反規制の姿勢を採っていたことを考えると、政権によるより厳格な監督への転換は驚きをもって受け止められている。

ヨーロッパでは、Chris Canalなどの関係者が、バイオ兵器の開発や政府データベースへの攻撃といった具体的な脅威シナリオに基づき、企業が自社のモデルを自己評価するのではなく独立した検証システムを通じて管理される持続可能なテストプログラムを提唱している。欧州連合はすでにEU AI法——世界初の包括的AI規制——を制定しており、ハイリスクシステムおよび基盤モデルに対する義務を段階的に導入している。

議会が並行して厳格な規制を推進

自主的テストは、より広範な規制環境の構成要素の1つに過ぎない。7月23日、Ted LieuおよびNathaniel Moran両議員は超党派のAIキルスイッチ法を提出した。この法案は、国土安全保障省が米国の最大規模のAI研究機関に対し、過度に危険と判断されたモデルの停止を命じる権限を与えるものである。従わない研究機関には1日あたり2000万ドルの罰金が科される。

法案の成立の見通しは依然として不透明である。しかし、火曜日のホワイトハウスでの会合は、AIラボが政府の規制上の要求にどこまで応じる用意があるか、また、指標や情報開示に関する自主的フレームワークの不透明さが拘束力ある義務を追求する議員を満足させるかどうかを示す初期の指標となることが期待されている。