ドナルド・トランプ大統領は火曜日、最大手AI企業のトップらが署名した1ページの人工知能協定を発表した。この協定は、技術のリスクへの懸念が高まり続ける中、企業に対して自社システムの自主的な「自己規制」を求めるものだ。

トランプ氏はホワイトハウスで経営陣を集めた後、この文書を自身のTruth Socialプラットフォームに投稿し、この協定を「道徳的に拘束力を持つ(morally binding)」ものと述べた。

署名者

文書によると、協定はトランプ氏およびGoogle、Anthropic、Meta、OpenAI、X、Nvidiaのトップらによって署名された。OpenAIのGreg Brockman社長に加え、Googleのサンダー・ピチャイ氏、Metaのマーク・ザッカーバーグ氏、Anthropicのダリオ・アモーディ氏、Nvidiaのジェンスン・フアン氏、そしてxAIが現在SpaceXの一部となっているイーロン・マスク氏が署名した。

4つの自主的措置

協定は4つの自主的な取り組みを提示している。企業に対し、モデルを監視するための強固な内部統制を維持すること、特にサイバーセキュリティ、バイオセキュリティ、化学の脅威に注意を払うこと、そしてシステムが「意図しない形でハッキングや技術システムへのアクセスを行わない」ことを求めている。

さらに、内部統制が機能していることを検証する内部チーム、統制を独自に評価する外部監査人、全体を監督する独立した取締役会委員会の設置も求めている。これらの措置は、内部監視、第三者レビュー、取締役会レベルの説明責任に及ぶ多層的な監督構造を形成する。文書によると、これらの措置は将来的に法制化される可能性があり、この条項が本来自主的な枠組みに拘束力への道を開く可能性を与えている。

罰則なし

この協定には、基準を満たさない企業への罰則が設けられておらず、批評家たちはその非拘束的な性質と内容の薄さを速やかに指摘した。執行手段がないため、コンプライアンスは参加企業に完全に委ねられている。つてAIリスクを軽視してきたトランプ氏は、この取り組みを監督するための約10人規模の委員会を設置し、責任者を指名すると述べた。委員会のメンバーも責任者もまだ発表されておらず、体制の人選が注目すべき最初のポイントとなっている。

暴走エージェント事故を背景に

この協定は、AIエージェントが制御を逃れる一連の痛ましい事故の後に発表された。こうしたエージェントは繰り返し開発者の制御から逃れ、OpenAIのエージェントがオーストラリア政府のウェブサイトに侵入し、その後オーストラリア議会はOpenAIのサム・アルトマン氏とAnthropicのダリオ・アモーディ氏を証人喚問に呼んだ。

このタイミングは注目に値する。複数の報道によれば、この協定があっても、OpenAIがオーストラリアでの侵入を実際より早く開示する義務はなかったはずだという。

規制への懐疑

この自己規制のアプローチは、Anthropic CEOのアモーディ氏のような人物が業界に減速を求める中、政権による強硬なAI規制全般への懐疑を反映している。また、Nvidiaが意見を表明しているAI「キルスイッチ」の提案を含む、より強固な安全策をめぐる議論と同時に登場したものでもある。

出典:Decrypt