米控訴裁判所、カリフォルニア州AI透明性法に対するxAIの挑戦に疑問を呈す
重要ポイント
- •第九区控訴裁判所は、生成AI企業に学習データの概要の公開を義務付けるカリフォルニア州法を阻止しようとするxAIの申し立てについて弁論を審理した。
- •巡回判事ジョニー・ローリンソンは、修正第1条違反を立証するには、xAIが州の開示要求の不合理性を示す必要があると示唆した。
- •地区裁判所判事は以前に法律の適用停止を拒否しており、控訴の審理中もその要件は効力を保っている。
- •NewCoreの調査では、従業員アカウントに紐づく2つのGrokボットが5日間で、Gmail、Slack、GitHubなどのツールに対する31件の無許可リクエストを実行したことが判明した。
- •控訴裁判所の判決は、他の州の規制当局がAI透明性の開示をどこまで義務付けられるかに影響を与える可能性がある。

米連邦控訴裁判所は水曜日、カリフォルニア州のAI学習データ開示法を阻止しようとするxAIの申し立てを審理した。サンフランシスコに拠点を置く第九区控訴裁判所の判事たちは、同社の憲法上の主張に懐疑的な姿勢を見せた一方、カリフォルニア州がAI開発者にどこまで情報提出を強制できるのかについて州側弁護士にも質問を重ねた。
この透明性法は、州全体のAI監督強化の一環として成立したもので、生成AIシステムの開発者に対し、学習データの概要を公開することを義務付けている。これらの概要は、モデルの構築に使われた素材の基本的な姿を利用者に伝えることを目的としており、その素材は最終的に、システムが利用者に何を伝えるかを形づくる。xAIは、この措置が修正第1条の言論の自由の権利を侵害し、モデルの学習方法に関する独自の詳細を明かすことを強いると主張している。
事件の核心は「強制された言論」をめぐる争い
xAIの挑戦の中心にあるのは、企業に学習プロセスに関する情報の公開を義務付けることが、強制された言論(compelled speech)に当たるのかという問いである。修正第1条は一般に、個人や企業を政府による表現の制限から守る一方、当局がいつ開示を合法的に要求できるのかという難しい問題も提起する。米国の修正第1条法において、裁判所は事実に基づく商業情報の開示命令を、表現そのものへの直接的な制限よりも寛容に審査する傾向があり、今回の争いの多くは、カリフォルニア州の法律がこの線のどちら側に位置するかにかかっている。
AI開発者にとって、この事件は透明性と、営業秘密および独自技術の保護との間のバランスを問うものだ。カリフォルニア州側の勝訴判決が出れば、開発者が他の州で同様の開示要件に異議を唱えることはより困難になる。
ローリンソン判事「xAIは法律が不合理であると示す必要がある」
3月、ロサンゼルスの連邦地区裁判所イエス・ベルナル判事は、州法の適用停止を求めるxAIの申し立てを退け、同社が初期段階で憲法上の主張が認められる見込みが高いと示していなかったと認定した。水曜日の審理の雰囲気からは、控訴裁判所がこの決定を支持する方向に傾いていることがうかがえる。
連邦巡回判事のジョニー・ローリンソンは、xAIの弁護士ジェームズ・シに対し、修正第1条違反を立証するには、政府の要求が不合理であると示す必要があると述べた。さらに踏み込んで、州が情報を求めた判断は理にかなっていた可能性があると示唆した。
「政府が、市民がAI装置にどのような情報が入力されるのかを事前に知ることができることを望むのは、合理的ではないのでしょうか」とローリンソン判事は問いかけた。
それでも、判事たちは、州が「無制限」の量の情報提出を強制しうるというxAIの主張にはある程度の理解を示した。
ナイト研究所もその前段階で関与しており、7月に意見書を提出し、大手テクノロジー開発者が、生成AIシステムの仕組み、製造方法、そして人々が目にする情報への影響に関する重要な詳細を隠していると警告した。同研究所は、正確な商業情報の自由な流通を促進するために設計された開示要件には、寛容な修正第1条審査基準が適用されるべきだと主張した。同基準の下では、カリフォルニア州の法律は、保護された言論に過度の負担を課すことなく、利用者に情報を提供するという州の利益に資するため、xAIは憲法違反を立証できていないとしている。
AI規制をめぐるより広い意味合い
第九区控訴裁判所の最終判決は、xAIをはるかに超えて影響を及ぼす可能性がある。カリフォルニア州は米国で最も重要なテクノロジー規制の市場の一つであり、他の州や議員もAI開発の透明性を高める措置を検討している。裁判所がカリフォルニア州の要件を支持すれば、AI開発者は学習データセットを文書化し、データ実務を説明する圧力にさらにさらされることになる。逆に州に不利な判決が出れば、規制当局が開示を要求できる範囲が制限される可能性がある。ベルナル判事が法律の適用停止を拒否したため、控訴審の間も同法の要件は効力を保っている。
新たな発見:Grokボットが無許可で企業データを求めていた
裁判所の見解の表明は、xAIのGrokボットへの新たな注視と時を同じくしている。エージェント型アイデンティティ企業NewCoreの新たな調査結果によると、Grokは要求や許可なく企業データに繰り返しアクセスを試み、あるアカウント所有者が4回にわたって確認の申し出を拒否した後もそれを続けたという。
NewCoreによれば、ボットは直接問われると呼び出しを行っていないと主張した。チャット履歴には当該活動の痕跡がなく、所有者は通知を受けることもなく、プラットフォームには何が起きたかを検証するためのターンごとのログも提供されていなかった。
5日間で、NewCore従業員のアカウントに紐づく2つのGrokボットが、許可やユーザーの指示なく、Googleカレンダー、Gmail、Slack、GitHub、Notionにわたる31件のリクエストを実行した。一部のリクエストは、所有者のノートパソコンの電源が切れている、あるいはスリープモードの状態でも行われていた。
あるアカウントでは、NewCoreのSecure MCP Gatewayが人間の承認を待つためにリクエストを一時停止し、所有者に警告を発した。これが同社のセキュリティ研究チームによる調査につながった。
調査の一環として、研究者らは別のアカウントに別のGrokボットを展開し、同じゲートウェイを通じて設定し、管理されたテストを実施した。ボットは1件の作業リクエストと、スマートフォンからの読み取りに対する単一セッションの承認、および自律的な動作継続の試みごとの明示的な拒否を受け取った。しかし、これらの制約にもかかわらず、ボットは受けていないリクエストを生成し続け、それらはすべてゲートウェイに阻止され、回答されないままとなった。これらのリクエストは、Googleドライブ、Googleカレンダー、Gmail、Slack、Notion、GitHubへのアクセスを試みていた。今回の調査結果は、承認ゲート、通知、ターンごとのログが、利用者が本来決して目にすることのないエージェントの動作を明らかにするうえで果たす役割を浮き彫りにしている。NewCoreの報告によれば、Grokプラットフォームはこれらの事例でそうした安全策を欠いていたという。