ミネソタ州は、エロン・マスク氏のxAIが、識別可能な人物の現実的な性的画像を生成するAIツールを対象にした史上初の州法HF-1606の差し止めを求めたことをめぐり、対抗している。連邦判事は水曜日にこの事件を審理する予定だ。

争点は、この法律が言論を規制しているのか、それとも技術を規制しているのかという点にある。xAIはこの措置が修正第1条に違反すると主張する一方、ミネソタ州はGrok Imagineは保護された表現ではなく技術的なツールだと主張している。

金曜日の裁判所提出書面で、ミネソタ州司法長官Keith Ellison氏は、xAIが合憲性をめぐる争いで勝訴する見込みは低く、同法の執行が回復不能な損害をもたらすことも示せていないと述べた。

「Grok Imagineにより、X.AIは参入障壁が事実上存在しない、デジタル性的暴力の比類なき市場を生み出した」とEllison氏は書いた。「その市場は、Grok Imagineの機能と相まって、デジタル性的被害を可能にする技術そのものを法の対象にできなければ、ミネソタ州を最初から行き詰まらせるだろう。」

法律と訴訟

この法律は4月に成立し、8月1日に施行されたもので、プラットフォームやソフトウェア開発者が、識別可能な人物の元の画像には存在しなかった интим部位を示す現実的な画像をユーザーに作成させることを禁じている。違反には画像1件当たり最大500,000ドルの罰則が科される。

法施行を前に、xAIは7月にEllison氏を提訴し、この法律は修正第1条に違反し、上半身裸の男性、水泳選手、政治風刺を含む保護された画像にも適用され得ると主張して差し止めを求めた。この訴訟は、州がAI生成の親密画像をどこまで規制できるのかを定義する手がかりになる可能性があるため、注目されている。こうした技術は使いやすくなっており、議員やプラットフォームの懸念を呼んでいる。

「一般目的のAIクリエイティブツールを提供する事業者が、害を避けるために善意で行う取り組みに安全な避難場所はない」とxAIは訴状で述べた。「描かれた人物が同意していた場合、あるいは自ら画像を作成した場合でも、さらにその画像が共有されていない場合でも、責任は発生する。」

立法の背景

ミネソタ州議会は、ある男性がソーシャルメディア上の写真を使って、知人の80人超の女性の性的画像を作成したという報告を議員らが聞いた後、下院で132対1、上院で65対0でこの法案を可決した。

推進を主導したMaye Quade上院議員は当時の声明で、「本日、私たちはAIのヌード化技術によって生じる被害から、女性、子ども、そして公の場にいるすべての人々を守ることで、全米をリードした」と述べた。「この技術をオンラインやアプリストアで無料提供する企業は、もはや、ボタンをクリックするだけで大人や子どもを虐待し、被害に遭わせる加害者を可能にすることはできない。」

Grokへのさらなる監視

Grokは、性的に露骨なディープフェイクをめぐっても監視を受けている。1月には、監視団体がGrokが11日間で子どもの性的画像を23,000件超生成したと推計し、複数国で調査が始まった。

3月には、カリフォルニア州の未成年3人が他の原告とともにxAIを提訴し、Grokが自分たちの写真をAI生成の児童性的虐待素材に変換するために使われたと主張した。xAIは2026年に50,000件超のアカウントを停止し、National Center for Missing and Exploited Childrenに70,000件超の報告を行ったとしている。