ミネソタ州のキース・エリソン司法長官は金曜日、特定可能な人物の性的画像を生成するAIツールを規制する全米初の州法であるHF 1606の施行を阻止しようとするxAIの試みに反対する意見書を提出したと、Decryptが報じた。

エリソン長官は、同社が憲法上の主張で勝訴する可能性は低く、法の執行が回復困難な損害を引き起こすことを示せていないと主張した。

エリソン長官は次のように述べた。「Grok Imagineによって、X.AIはデジタル性的暴力の前例のない市場を作り出した。テクノロジーそのものに法を適用できなければ、州は当初から無防備なままとなる」

ミネソタ州の主張は、Grok Imagineは保護された言論ではなくツールであり、それゆえxAIが判事に検討を求めた事項の対象外になるというものだ。連邦判事が水曜日にこの問題について審理を行う予定である。

ミネソタ州の法律は、認識や意図がなくてもAIプロバイダーを対象とする

HF 1606は、企業が、特定可能な人物の元の写真には存在しなかった親密な部位を示す写実的な画像をユーザーに生成させること、およびユーザーの代わりにそのような画像を作成することを禁止している。違反には画像1枚あたり最大50万ドルの制裁が科され、画像に描写された人物は別途訴訟を起こすことができる。

同法は、企業が画像について知っていたことや意図していたことを要件としない。連邦のTake It Down法を含むほとんどのディープフェイク法は、画像の作成者や共有者を処罰する。テキサス州は2025年に事業者に連絡を取ったが、それは所有者が同意の欠如を認識していた場合、または削除通知に応答しなかった場合に限られた。ミネソタ州は認識という要素を排除しており、これこそが水曜日にxAIが攻撃の対象とする条項である。

ミネソタ州下院は132対1、上院は65対0でこの法案を可決した。これは、ソーシャルメディアの写真を使って知り合いの80人以上の女性の性的画像を作成した男性に関する報道を受けてのものだった。同法は4月に署名された。xAIは7月27日に提訴し、7月29日に仮処分命令を申請した。

7月31日、ドノバン・フランク判事はこの申立てを却下した。判事は、同社が署名からほぼ3ヶ月後、施行日の3日前に提訴したことを指摘し、「損害は切迫していない」と示した。同法は8月1日に施行された。

xAI、ミネソタ州の規則は風刺や同意に基づく画像を犯罪化する可能性があると主張

訴状は、同意のない画像を防ぐという州の利益そのものには異議を唱えていない。むしろ、同法がその利益をはるかに超えて及んでいると主張しており、争点は定義に集約される。xAIによれば、ミネソタ州は身体的接触を伴う犯罪を対象とした法令に基づいて親密な部位の定義を設けており、その定義は内ももと胸を含むため、水着の画像や風刺まで巻き込むという。

提出書類の19ページには、トランプが5月1日にTruth Socialで共有したAI生成画像が含まれている。この画像には、JD・ヴァンス、マルコ・ルビオ、ダグ・バーガム内務長官とともに上半身裸のトランプが、身元不明の女性とともにリンカーン記念堂の反射池にいる様子が写されており、池の修繕費用をめぐるジョークである。xAIは、各男性の胸が以前にはなかった形で描写されており、この画像はミネソタ州では違法になると主張する。

同社は次のように述べた。「仮に被写体が同意を与え、自ら画像を生成した、または一切共有しなかったとしても、汎用AIクリエイティブツールの提供者による誠実な努力のためのセーフハーバーは存在しない」

xAI自身の計算によれば、そのような画像10枚で500万ドル、10万枚では500億ドルに達するという。

Grokの執行記録が浮き彫りにする乱用問題の規模

同社は、誠実性の証拠としてコンプライアンス記録を提示している。Cryptopolitanが以前報じたように、xAIは7月の提出書類の中で、今年52,222件のアカウントを停止し、National Center for Missing and Exploited Children(行方不明・搾取児童国立センター)に73,604件の報告を送り、2026年に少なくとも244件の逮捕につながったと述べた。

これらの数字は、同時に問題の規模を示す指標でもある。Center for Countering Digital Hate(デジタルヘイト対策センター)によれば、12月29日から1月8日までの11日間に、マスク氏が同アプリの編集機能を支持した後、Grokは約300万点の性的に露骨な画像を生成し、そのうち約23,000点は子供が描写されているように見えたという。

カリフォルニア州は1月14日に調査を開始し、2日後に中止命令書を送付した。35人の司法長官が1月23日に共同要求書に署名した。エリソン長官によれば、5人の子供による集団訴訟が提起されており、アーカンソー州の2つの家族が連邦裁判所に提訴している。

欧州委員会は1月27日に調査を開始し、このチャットボットはマレーシアとインドネシアで禁止されている。