人工知能業界の主要企業が今週、フロンティアAIモデルの規制をめぐる高まる混乱を解消するため、米国政府と会合を行った。火曜日にホワイトハウスで開催されたこの会合には、OpenAI、Anthropic、Google、Meta、Nvidiaなど主要AI企業が集まった。その成果は、フロンティアモデルの公開前に政府が審査を許可する新たな自主的枠組みであった。

しかし、ホワイトハウスの会合に参加した企業が合意した取り決めは、一般市民には公開されない。

政権は、トランプ大統領が6月に官僚に対して作成を命じてから過去2か月間開発を進めてきた枠組みを公表する予定はない。対象となるモデル、関連する閾値、世界で最も強力なモデルへの早期アクセスを認められる「信頼できるパートナー」のリストなど、重要な詳細は依然として一般市民や業界の多くにとって不明のままである。議会からの包括的なAI法制化がない中、大統領令や自主的な業界合意が米国のAI監視の主要な手段であり続けており、この空白は、法的拘束力を持つAI法を段階的に導入している欧州連合とは対照的である。

6月の大統領令はすでに、「対象フロンティアモデル」を指定するために使用されるベンチマーク手法が機密指定される可能性があり、その決定はNSA長官に委ねられると規定していた。

状況に詳しい情報筋によると、枠組みが議論された際、簡令室にいたのはごく少数の企業だけだったという。これは、米国のAI規制が少数の支配的企業間の対話によって形成される傾向が強まっているという幅広い懸念を浮き彫りにする。小規模およびオープンソースのラボは、これらの安全性枠組みがより広範な市場構造に影響を与え、「政府承認」の指定を持つクローズドソースのフロンティアモデルの使用を固定化する可能性を懸念している。

枠組みに実際含まれているものは？

報道によれば、枠組みの対象となるモデルは、クローズドソースであり、最先端の能力を示し、国家的安全保障上のリスクを提示するものとして定義されている。しかし、ブリーフィングに詳しい人物によると、「最先端」も「国家的安全保障上のリスク」も明確に定義されていないという。

開発者は、公開前に最大30日間、そのようなモデルを自主的に政府に提出できる。企業には、7月時点での状況とほぼ同様に、早期チェックポイント段階ではなく、公開可能な状態にできるだけ近い段階でモデルを提出するよう指示されたという。審査は単一の機関ではなく、政権の複数の官僚によって実施される予定である。

プロセスに詳しい情報筋の証言に基づくと、オープンウェイトモデルは枠組みから除外されたようである。一部の観察筋は、この除外によって業界のリーダーに追いつこうとする企業が直面する規制上の障壁が減り、恩恵を受ける可能性があると指摘している。同時に、この除外は、ワシントンが最も懸念しているAIモデル、すなわちAlibaba、DeepSeek、Moonshot AIからのオープンウェイト版リリースが米国のフロンティアに迫り続けているものを、監視の対象外に置くことになるとみられる。

オープンウェイトを扱う企業でさえ、自社のモデルを提出できるかどうか、またそれが実際に何を意味するのか確信が持てないでいる。一部では、オープンソースモデルが明示的に含まれていないことは、それを開発する企業にとって最終的に悪影響を及ぼす可能性があると主張している。顧客が「政府承認」のクローズドソースの代替品へと流向く可能性があるためだ。

もう一つ注目すべき詳細：報じられている30日間の審査期間中、提出されたモデルは高度なセキュリティ環境に保持され、アクセスは詳細に記録され、Axiosの報道によると「従業員のモデルへのアクセスは制限される」という。これは、ワシントンが評価している間、企業の従業員が自社のフロンティアモデルを使用することについて、制限される、あるいは少なくとも制約を受けると示唆しているように見える。企業が未公開モデルを自社で使用する内部展開は、過去多くのガバナンス案でブラインドスポットとして指摘されてきた。

この問題は、OpenAIの逃走した自律型エージェントによる最近のハッキングが、一部で秘密の未公開モデルによって可能になったと報じられていることから、特に時宜を得たテーマとなっている。

批評家はルールが依然不明確だと主張

枠組みと政府のアプローチに対する批判は、複数の方面から寄せられている。

「これはテクノロジー企業との握手による合意ではない。企業が一般市民を危険にさらさないようにするためのルールブックだ。テクノロジー企業だけがルールブックの内容を知っているなら、それは機能しない」と、ワシントンを拠点とするAI政策非営利団体Americans for Responsible InnovationはXの投稿で述べた。同団体は、高度なAIシステムに関するより透明性があり執行可能な連邦ルールを提唱してきた。

R Street Instituteのテクノロジー・イノベーション分野のレジデント・シニアフェローであるAdam Thierer氏は、政権が「この密室での事実上のライセンス制度を策定することで、バイデン政権のものよりもはるかに恣意的で負担の大きいものをもたらす運命にある」と述べた。バイデン政権の2023年のAIに関する大統領令は、最も強力な基盤モデルの開発者に安全性テスト結果を政府と共有することを義務付けていたが、正式な規制体制の確立には至らなかった。

フロンティアAIの監視を民間主導の連邦枠組みの中に組み込む、新たな超党派FRONTIER法の共同提出者であるLori Trahan議員は、Xで次のように主張した。AIガバナンスは「国家安全保障機関の中に埋もれるのではなく、目に見え、問いただすことができる文民機関に属するべきだ」と。

ルールブックが公開されるまで、批評家はワシントンが水面下でAI競争での優位権を誰に与えるかを決定している可能性があると警告している。

Beatrice NolanによるFortuneの記事。