xAI 起诉明尼苏达州,力图在生效前阻止美国首部AI裸体化法律
要点速览
- •xAI 提起联邦宪法第一修正案诉讼,要求阻止明尼苏达州 HF 1606——美国首个专门针对AI裸体化平台的州法律——在8月1日生效。
- •HF 1606 以压倒性两党支持获得通过——众议院132票赞成1票反对,参议院65票全票通过——此前一名男子利用社交媒体照片为80多名女性生成了色情AI图像。
- •该法律对平台实行严格责任制,每张生成图片最高处以500,000美元民事罚款,无论平台是否知情或有意,且不包含针对善意内容审核努力的安全港。
- •xAI 主张该法规对私密身体部位的宽泛定义可能使大量受保护的言论——包括描绘公众人物的政治讽刺——面临责任风险。
- •该案的结果预计将影响其他正在考虑类似裸体化立法的州,xAI 已将联邦《TAKE IT DOWN 法案》作为更优的立法范例。

xAI,埃隆·马斯克的人工智能公司,于周一对明尼苏达州总检察长基思·埃里森提起联邦宪法第一修正案诉讼,要求阻止 HF 1606——美国首个专门针对AI驱动的"裸体化"平台的州法律。该立法定于8月1日生效。
该诉状提交至美国明尼苏达州区联邦地区法院,将该法律描述为"一项过于宽泛的、基于内容的言论自由禁令,以及对该禁令视觉表达工具的笨拙尝试。"裸体化是指利用AI在真实人物的真实照片中数字移除或更改衣物的软件。由于该法律基于内容对言论进行监管,法院将适用严格审查标准——宪法法律中最为严格的标准——要求明尼苏达州证明该法规是为了服务于紧迫的政府利益而精心制定的。
明尼苏达州立法机构以压倒性两党支持通过了 HF 1606——众议院132票赞成1票反对,参议院65票全票通过——此前一名男子利用社交媒体照片为他认识的80多名女性生成了色情图片。
根据该法规,任何平台均承担严格责任——即在法律上无论是否知情或是否有意均须负责——如果用户生成了真实人物的逼真图像,且展示了这些个人实际从未暴露的身体部位。每项违规可处以每张生成图片最高500,000美元的民事罚款。
xAI的诉讼文件并未为裸体化本身辩护。"因此,xAI并不质疑明尼苏达州禁止未经当事人同意传播其AI生成的裸体图像这一利益,"诉讼指出。"但明尼苏达州颁布的法规远超这一目标,将大量受保护的言论暴露于民事责任和政府制裁之下。"
该公司主张,核心缺陷在于明尼苏达州对关键术语的界定方式。根据诉状,该州从一部刑事性接触法规中借用了"私密部位"的定义——该法规是为应对非自愿身体接触而制定的,并非针对图像生成。根据该定义,大腿内侧、臀部和胸部均同等地被认定为私密部位。因此,生成一张赤裸上身的政治家、穿着泳装的女性或在海滩上的公众人物的逼真AI图像——即使是出于政治讽刺目的——都可能触发该法律及其经济处罚。
诉状还强调了xAI所指出的平台保护缺失问题。"对于通用AI创意工具提供商为避免危害所做善意努力,不存在安全港,"诉讼文件写道。"即使被描绘的个人同意——或自行创建了该图像——且即使该图像从未被分享,责任仍然适用。"缺乏任何平台安全港标志着一个显著转变,偏离了《通信规范法》第230条长期以来管辖互联网中介的责任框架,该条款历史上一直保护在线服务免于对用户生成内容承担责任。
此外,该法律不包含任何主观过错要求——这意味着绕过公司自身内容过滤器的用户仍将使该公司承担全部责任。仅在2026年,xAI报告称其暂停了超过50,000个账户,并向 NCMEC(国家失踪与受剥削儿童中心)提交了超过70,000份报告,导致至少244人被捕。但这些执法行动在 HF 1606 下均不构成抗辩理由。
更广泛的监管环境提供了重要背景。Grok的图像生成工具在2025年7月下旬发布后几乎立即引发了争议,当时该系统通过简单的文本提示即可生成深度伪造图像——即AI生成的真实人物的合成图像。这促使欧洲、澳大利亚及美国多个州展开监管调查。巴尔的摩市和田纳西州的三名未成年人分别就Grok的深度伪造输出对xAI提起诉讼。今年4月,该公司还以类似的宪法第一修正案理由对科罗拉多州的AI法律提出挑战。明尼苏达州的法规是全国首个专门针对裸体化工具的法律,其结果可能会影响其他正在权衡类似措施的州。
该法案在参议院的主要推动者、参议员艾琳·梅耶·奎德(Erin Maye Quade)证实,该法律对双方同意的图像的禁令是"有意为之"的。
xAI以联邦《TAKE IT DOWN 法案》——2025年5月由唐纳德·特朗普总统签署——作为更合适的立法模式。该法律已经涵盖了非自愿的亲密深度伪造内容,但要求证明非自愿性和实际传播行为,采用更窄的身体部位定义,并包含教育和医疗内容的具体豁免条款。
埃里森总检察长表示他不会退缩。"AI裸体化剥夺了目标的尊严,并可能在情感、个人和职业层面造成巨大伤害,"他在诉讼提起后说道。
鉴于 HF 1606 将于周六生效,xAI 正寻求联邦法院的禁令,以在该法律生效前阻止其执行。要获得初步禁令,xAI 必须说服法院其在实体问题上很可能胜诉、在没有禁令的情况下将遭受不可挽回的损害,以及利益平衡和公共利益均支持其立场。