明尼蘇達州檢察總長凱斯·艾利森（Keith Ellison）於週五提交法律意見書，反對 xAI 阻止 HF 1606 的企圖。這是全美首部限制生成可識別人物性影像之 AI 工具的州法，Decrypt 報導。

艾利森主張，該公司在其憲法主張上不太可能勝訴，且未能證明該法的執行會造成無法彌補的損害。

「透過 Grok Imagine，X.AI 打造了一個前所未有的數位性暴力市場，除非該州能將法律直接指向這項技術本身，否則從一開始就毫無防禦能力，」艾利森表示。

明尼蘇達州的論點是，Grok Imagine 是一項工具，而非受保護的言論，這將使其排除在 xAI 請求法官審酌的考量之外。聯邦法官將於週三就此案舉行聽證會。

明尼蘇達州的法律即使在公司不知情或無意圖的情況下也針對 AI 供應商

HF 1606 禁止公司讓用戶生成顯示原始照片中未出現之私密部位的可識別人物寫實影像，也禁止公司代用戶製作此類影像。違規者每張影像最高可處 50 萬美元罰款，且被描繪者可另行提起訴訟。

該法並不要求公司知悉該影像或具有意圖。大多數深偽法律（包括聯邦的《Take It Down Act》）懲罰的是製作或分享影像的人。德州在 2025 年曾聯繫營運商，但僅限於所有者明知未經同意、或未回應下架通知的情況。明尼蘇達州刪除了知情要件，而這正是 xAI 週三將攻擊的條款。

明尼蘇達州眾議院以 132 票對 1 票、參議院以 65 票對 0 票通過該法案，此前有報導稱一名男子利用社群媒體照片為他所認識的 80 多名女性製作性影像。該法於 4 月簽署。xAI 於 7 月 27 日提起訴訟，並於 7 月 29 日聲請臨時限制令。

7 月 31 日，法官唐納文·弗蘭克（Donovan Frank）駁回該聲請，指出該公司在法案簽署後近三個月、生效日前三天才提起訴訟，顯示「損害並非立即發生」。該法已於 8 月 1 日生效。

xAI 表示明尼蘇達州的規則可能將諷刺與合意影像入罪

訴狀並未質疑該州防止未經同意影像的利益。相反地，它主張該法遠超出該利益的範圍，而爭議核心在於一項定義。xAI 表示，明尼蘇達州對「私密部位」的定義源自一部針對涉及身體接觸犯罪的法律，該定義涵蓋大腿內側與胸部，因此將泳裝影像與諷刺作品一併納入。

訴狀第 19 頁收錄了一張川普於 5 月 1 日在 Truth Social 分享的 AI 生成圖片，圖中他與 J·D·范斯（JD Vance）、馬可·魯比歐（Marco Rubio）及內政部長道格·伯格姆（Doug Burgum）上身未著衣物，與一名身分不明的女性同處於林肯紀念堂倒映池中——這是針對該池維修費用的玩笑。xAI 主張，圖中每名男性的胸部都是原先沒有而被描繪出來的，這使得該圖片在明尼蘇達州屬於違法。

「即使當事人表示同意、自行生成影像或從未分享，通用 AI 創作工具的供應商基於善意所做的努力也沒有安全港，」該公司表示。

按 xAI 自己的計算，十張此類影像將耗資 500 萬美元，十萬張將達 500 億美元。

Grok 的執法紀錄凸顯濫用問題的規模

該公司提出其合規紀錄作為善意的證據。正如 Cryptopolitan 先前報導，xAI 在 7 月的一份文件中表示，今年已停權 52,222 個帳號，並向國家失蹤與受剝削兒童中心（National Center for Missing and Exploited Children）提交 73,604 份報告，促成 2026 年至少 244 起逮捕。

這些數字也反映了問題的規模。根據反數位仇恨中心（Center for Countering Digital Hate）的數據，在 12 月 29 日至 1 月 8 日的 11 天期間，繼馬斯克（Musk）背書該應用程式的編輯功能之後，Grok 生成了約 300 萬張色情影像，其中約 2.3 萬張看似描繪兒童。

加州於 1 月 14 日展開調查，並在兩天後發出停止並終止令。1 月 23 日，35 位州檢察總長簽署聯合要求。據艾利森表示，五名兒童已提起集體訴訟，阿肯色州的兩個家庭也已向聯邦法院提起訴訟。

歐盟執委會於 1 月 27 日展開調查，該聊天機器人已在馬來西亞與印尼遭禁。