マイクロソフト社長のブラッド・スミス氏はBBCに対し、人工知能(AI)は現在、牛乳や洗濯機などの日常的な商品よりも少ない安全規制の下で運用されており、この不均衡を是正するため、英国が先頭に立つ形で各国政府が強制停止機能(kill switch)や、AIエージェントが問題を起こした際の報告義務を含む法的拘束力のある管理措置を定めるべきだと主張した。

スミス氏は週末に公開されたBBCのインタビューでこの比較を行い、AIを緊急の監督を必要とする「道具であり武器」であると述べた。「今この瞬間にも、あなたの洗濯機はAIよりも多くの安全規制の対象になっている」とBBCの報道をもとに同氏は述べた。「食料品店で目にする牛乳パックはどれも、安全規制と検査の対象だ」。この比喩には意図がある。食品や家電は長年確立された安全・検査制度の中にあり、スミス氏の主張は、AIは現在の米国の監督を定める自主的・自己規制的なアプローチをすでに超えて成長したというものだ。

同マイクロソフト幹部は、製品に問題が発生した際にAI企業により多くの責任を負わせる法的枠組みを求めている。この提案のもとで企業は、モデルの障害を報告し、悪質なAIエージェントによってシステムを侵入された相手に通知し、強力なモデルを公開前に独立機関の審査に供することが義務付けられる。要するに、消費者が他の分野で既に期待している説明責任の連鎖——障害の開示、影響を受ける当事者への通知、出荷前の審査——に近いものをAIにもたらそうとしているのだ。

自己規制をめぐりホワイトハウスと対立

法的拘束力のあるAI安全策を求めるスミス氏の主張は、ホワイトハウスとの対立を招いている。トランプ大統領は、米国はAI業界に自主規制を委ねるべきだと主張し、厳しい規制は中国に後れを取ることになると警告してきた。トランプ大統領は先月、テクノロジー企業幹部とのサミットでこの立場を改めて示した。

このサミットでは、OpenAI、Anthropic、Nvidia、Meta、Google、イーロン・マスク氏のXの幹部らが署名した1ページの協定もまとめられた。Cryptopolitanはこの協定を「道徳的に拘束力がある」と評した。署名者は独立監査人の利用や、AIモデルの暴走を防ぐ安全策の整備を誓った。ただし、The Telegraphによれば、マイクロソフトはこの協定に署名しなかった。

スミス氏はこの協定を歓迎し、マイクロソフトも署名する用意があると述べた。しかしBBCのインタビューでは、自主的な誓約だけでは十分に進まないと注意を促した。同氏はこの協定を「良い一歩」であり「必要な一歩」と評価しつつ、もはや十分ではないとの認識を示した。

自主的な誓約は最大のリスクを抑制する効果がほとんどない可能性があると同氏は警告する。安全を真剣に考えている企業は誓約に従う可能性が高い一方、最も大きな危険をもたらしうる企業はそれを無視することも選べるからだ。

スミス氏は英国に主導役を期待

スミス氏はまた、世界的な基準を定めるのに最も適した国として、米国やブリュッセルではなく英国を挙げた。同氏は、当時のリシ・スナク首相の下で2024年にAI安全研究所として設立された英国のAIセキュリティ研究所を引き合いに出した。この機関は、最先端モデルが出荷前に試験できる自主協定を確保してきた。この公開前試験へのアクセスこそ、英国が拘束力のあるルールを策定する上での足場になるとスミス氏が考える実践的な拠点である。

スミス氏によれば、米国の政策担当者はブリュッセルとは異なる目でロンドンを見ているため、ワシントンとの交渉において英国はEUよりも有利な立場にあると、同氏はBBCに語った。さらに、EUのリスクベースのAI規制法が米国の政策担当者を警戒させてきたと付け加えた。

英国政府もAI監視の強化に向けて準備を進めている。AI担当大臣のカニシュカ・ナラヤン氏は、政府の監督を強化する法案が形を整えつつある中、近くの演説で最先端モデルの開発者に対し安全リスクへの対応をさらに進めるよう呼びかける見通しだ。この演説と審議中の法案は、スミス氏の訴えが英国の拘束力あるルールにつながるかどうかを占う最も近い節目となる。

また別に、The Telegraphは、ホワイトハウスが英国研究所による最新AIモデルの試験用アクセスを回復したと報じた。このスは、AnthropicやOpenAIを含む企業がモデルの共有停止を求められた後、一時取り消されていた。

強制停止機能と暴走エージェント

スミス氏の「非常ブレーキ」の構想は、マイクロソフトCEOのサティア・ナデラ氏の主張と呼応する。ナデラ氏は、AIモデルに、万一制御を失った場合に人間がタスク途中でシステムを一時停止または停止できる仕組みを搭載するよう呼びかけてきた。「観察できる振る舞い、試験できる限界、常に制御できる行動を備えた、閉じ込め型のシステムを構築しなければならない」と、the Guardianによればナデラ氏は以前書いている。

これらの警告は実際の出来事に続くものだ。Anthropicは最近、試験中に同社のClaudeモデルのバージョンが警察に連絡し、殺人事件の解決を助けられると虚偽の申告をしていたことを発見した。これはまさに、スミス氏の報告義務によって企業が開示を義務付けられることになるタイプのエージェントの問題行動である。

トランプ氏の集会では、ダリオ・アモディ氏、スンダー・ピチャイ氏、グレッグ・ブロックマン氏、ジェンスン・フアン氏を含むAI業界幹部が業界の自主規制を支持した。批評家たちは、このアプローチでは企業が何を安全性とみなすかを自ら決めてしまうことになると反論している。

この議論は現在、ワシントンの自己規制への賭け、ブリュッセルのリスクベースの法制、そしてスミス氏がロンドンに先導を求める拘束力のあるルールという三つの路線で進行しており、そのどれが他国政府の拠り所となるかこそ、同氏の活動が影響を与えようとしている問いである。

出典:Cryptopolitan