明尼苏达州正在与埃隆·马斯克旗下的 xAI 对抗，后者试图阻止 HF-1606 生效。这是一项首创性的州法律，针对生成可识别人物逼真性图像的 AI 工具；联邦法官定于周三审理此案。

这场争议的核心在于该法律究竟是在监管言论还是技术：xAI 认为这项措施违反《第一修正案》，而明尼苏达州则主张 Grok Imagine 是一种技术工具，而非受保护的表达。

在一份周五提交的法庭文件中，明尼苏达州总检察长 Keith Ellison 表示，xAI 不太可能在宪法挑战中胜诉，也未能证明执行该法律会造成无法弥补的损害。

“借助 Grok Imagine，X.AI 创建了一个前所未有的数字性暴力市场，几乎没有进入门槛，”Ellison 写道。“如果明尼苏达州不能将法律指向使数字性剥削成为可能的技术，那么这个市场加上 Grok Imagine 的功能能力，将从一开始就会击垮明尼苏达州。”

该法律与诉讼

这项法律于 4 月颁布，并于 8 月 1 日生效，禁止平台和软件开发者允许用户创建显示可识别人物在原始图像中并不存在的私密身体部位的逼真图像。每张图像的违规罚款最高可达 500,000 美元。

在法律实施前的 7 月，xAI 起诉 Ellison，试图阻止该法，称其违反《第一修正案》，并可能适用于受保护的图像，包括赤膊男性、游泳者以及政治讽刺内容。此案受到密切关注，因为它可能帮助界定各州在监管 AI 生成亲密影像方面可以走多远；随着这些工具变得更容易使用，这一问题已引发立法者和平台的担忧。

xAI 在诉状中写道：“对于通用 AI 创意工具提供商为避免伤害而善意采取的努力，没有安全港。”“即使被描绘的人同意了——或者图像由他们自己创建——即使该图像从未被分享，责任仍然会成立。”

立法背景

在立法者听取了一名男子利用社交媒体照片为他认识的 80 多名女性创建性图像的报告后，明尼苏达州在众议院以 132-1、参议院以 65-0 的压倒性票数通过了这项法案。

“今天，我们在全国率先保护女性、儿童以及公众生活中的每一个人，免受 AI 去衣技术造成的伤害，”推动该法案的参议员 Maye Quade 当时在一份声明中表示。“将这项技术免费提供给线上和应用商店的公司，将不再被允许以点击一下按钮的方式纵容伤害成年人和儿童的掠食者。”

对 Grok 的更广泛审查

Grok 还因涉及露骨深度伪造而受到审查。1 月，一家监督机构估计，Grok 在 11 天内生成了超过 23,000 张儿童性化图像，随后引发多个国家的调查。

3 月，加州三名未成年人等人加入对 xAI 的诉讼，指控 Grok 被用来把他们的照片转换为 AI 生成的儿童性虐待 सामग्री。xAI 表示，公司在 2026 年已暂停超过 50,000 个账户，并向美国国家失踪与受虐儿童中心提交了超过 70,000 份报告。