明尼蘇達州正與 Elon Musk 旗下的 xAI 就後者試圖阻止 HF-1606 一案展開法律對抗。HF-1606 是一項全美首見的州法律，針對可用來生成可識別人物寫實色情影像的 AI 工具，而一名聯邦法官準備於週三開庭審理此案。

這場爭議的關鍵在於該法規範的是言論還是技術：xAI 主張這項措施違反《第一修正案》，明尼蘇達州則辯稱 Grok Imagine 是一種技術工具，而非受保護的言論表達。

明尼蘇達州檢察長 Keith Ellison 在週五提交的法院文件中主張，xAI 的憲法挑戰不太可能成功，且該公司未能證明執行該法會造成無法彌補的損害。

「透過 Grok Imagine，X.AI 打造了一個幾乎沒有任何進入門檻、無與倫比的數位性暴力市場，」Ellison 寫道。「如果州政府無法將法律指向那些從一開始就使數位性侵害成為可能的技術，這個市場加上 Grok Imagine 的功能特性，將使明尼蘇達州從一開始就注定失敗。」

該法與訴訟

這項法律於 4 月制定、8 月 1 日生效，禁止平台與軟體開發商讓使用者生成顯示私密身體部位的寫實影像，前提是這些部位並未出現在可識別人物的原始影像中。違規者每張影像最高可處 500,000 美元的罰則。

在該法實施前，xAI 已於 7 月對 Ellison 提起訴訟以阻止該法，主張該法違反《第一修正案》，且可能適用於受保護的影像，包括打赤膊的男性、泳者以及政治諷刺作品。此案正受到密切關注，因為它可能有助於界定各州在監管 AI 生成的私密影像方面能走多遠；隨著這類工具越來越容易使用，此議題已引發立法者與平台的擔憂。

「對於通用 AI 創作工具提供者為避免傷害所做的善意努力，該法沒有提供任何安全港，」xAI 在訴狀中寫道。「即使被描繪者已同意——或影像是由他們本人創作——且即使影像從未被分享，法律責任依然成立。」

立法背景

在立法者聽取相關報告——一名男子利用社群媒體照片，為其認識的 80 多名女性生成色情影像——之後，明尼蘇達州眾議院以 132 票對 1 票、參議院以 65 票對 0 票通過該措施。

「今天，我們引領全國，保護女性、兒童以及每一位公眾人物，免於受到 AI 裸體化技術造成的傷害，」主導推動此案的參議員 Maye Quade 當時在聲明中表示。「在網路上與應用程式商店免費提供這類技術的公司，將不再被允許協助那些只需點擊一下按鈕就能侵害成人與兒童的加害者。」

針對 Grok 的更廣泛審視

Grok 也曾因露骨色情深度偽造（deepfake）內容受到審視。今年 1 月，一個監督組織估計，Grok 在 11 天內生成超過 23,000 張兒童性化影像，促使多個國家展開調查。

今年 3 月，加州三名未成年人加入其他人對 xAI 提起的訴訟，指控 Grok 被用來將他們的照片轉換為 AI 生成的兒童性虐待材料。xAI 表示，該公司於 2026 年暫停了超過 50,000 個帳號，並向國家失蹤與受虐兒童中心提交了超過 70,000 份報告。