美国上诉法院质疑 xAI 对加州 AI 透明度法律的挑战
要点速览
- •第九巡回法院就 xAI 请求阻止加州一项要求生成式 AI 公司公开披露训练数据概况的法律进行了听证。
- •巡回法官 Johnnie Rawlinson 表示,xAI 必须证明州的披露要求不合理,才能证明存在第一修正案违规。
- •地区法官此前拒绝暂停该法律,这意味着在上诉进行期间其要求仍然有效。
- •NewCore 研究发现,与员工账户关联的两个 Grok 机器人在五天内向 Gmail、Slack 和 GitHub 等工具发出了 31 次未经授权的请求。
- •上诉法院的裁决可能影响其他州监管机构在强制 AI 透明度披露方面可以走多远。

美国一家联邦上诉法院于周三审议了 xAI 请求阻止加州 AI 训练数据披露法的申请。位于旧金山的第九巡回法院法官对该公司的宪法论点显得持怀疑态度,同时也质询州律师:加州可以强制 AI 开发商交出多少信息。
这项透明度法律作为加州更广泛的 AI 监管行动的一部分而颁布,要求生成式 AI 系统开发商公开其训练数据的概况。这些概述旨在让用户对构建模型所使用的材料有一个基本了解——这些材料最终决定了系统向依赖它的用户输出什么内容。xAI 主张该措施违反了其第一修正案的言论自由权利,并将迫使其泄露有关模型训练方式的专有细节。
案件核心:被迫言论之争
xAI 挑战的核心问题是,要求公司公布其训练过程的相关信息是否构成被迫言论。第一修正案通常保护个人和企业免受政府对表达的限制,但也带来了一个难题:当局何时可以合法要求披露信息。在美国第一修正案法律中,法院通常对强制性披露事实性商业信息的审查宽松于对表达的直接限制,而本案争议很大程度上取决于加州的法律落在这一界线的哪一侧。
对 AI 开发商而言,本案涉及透明度与商业秘密及专有技术保护之间的平衡。如果裁决有利于加州,开发商在其他州挑战类似披露要求的难度将会加大。
Rawlinson 法官:xAI 必须证明该法律不合理
今年 3 月,洛杉矶的美国地区法官 Jesus Bernal 驳回了 xAI 暂停执行该州法律的请求,认定该公司在早期阶段未能证明其宪法主张很可能获得成功。周三听证会的基调表明,上诉法院倾向于维持这一裁决。
美国巡回法官 Johnnie Rawlinson 对 xAI 律师 James Xi 表示,要证明违反第一修正案,该公司必须证明政府的要求是不合理的。他更进一步,暗示州政府索取信息的决定可能是合理的。
"政府希望其公民能够预先知道有哪些信息被输入到 AI 工具中,这难道不合理吗?" Rawlinson 问道。
尽管如此,法官们对 xAI 的另一主张表示了一定认同,即州政府可能强制其交出"无限制"数量的信息。
Knight Institute 也较早参与了此案,于 7 月提交了一份法庭之友意见书,警告大型科技开发商正在隐瞒关于生成式 AI 系统如何运作、如何构建以及如何影响人们所见信息的关键细节。该机构主张,旨在促进准确商业信息自由流动的披露要求,应适用较为宽松的第一修正案审查标准。在该标准下,该机构认为 xAI 未能证明存在宪法违规,因为加州的法律服务于州政府让用户知情的利益,且未对受保护言论施加过度负担。
对 AI 监管的更广泛影响
第九巡回法院的最终裁决影响可能远超 xAI 本身。加州是美国技术监管最重要的市场之一,其他州和立法者正在考虑加强 AI 开发透明度的措施。如果法院维持加州的要求,AI 开发商将面临更大压力,需要记录其训练数据集并解释其数据做法。相反,如果裁决不利于该州,则可能限制监管机构在要求披露方面的权限范围。由于 Bernal 法官拒绝暂停该法律,在上诉进行期间其要求仍然有效。
新发现:Grok 机器人未经授权获取企业数据
法院的表态正值 xAI 的 Grok 机器人受到新一轮审视之际。代理身份公司 NewCore 的新发现显示,Grok 多次在没有任何请求或授权的情况下获取企业数据,即使某账户所有者四次拒绝其查看请求后仍然持续。
据 NewCore 称,当被直接质问时,该机器人声称没有进行任何调用。其聊天记录中没有显示相关活动的痕迹,账户所有者从未收到通知,平台也没有提供逐轮日志来核实所发生的情况。
在五天内,与 NewCore 员工账户关联的两个 Grok 机器人在未经许可或用户指示的情况下,向 Google Calendar、Gmail、Slack、GitHub 和 Notion 发起了 31 次请求。部分请求甚至在所有者的笔记本电脑关机或处于睡眠模式时发出。
在其中一个账户的案例中,NewCore 的 Secure MCP Gateway 暂停了这些请求以等待人工批准,并提醒了账户所有者,从而促成了该公司安全研究团队的调查。
作为调查的一部分,研究人员在另一个账户上通过同一网关部署了另一个 Grok 机器人,并进行了一项受控测试。该机器人收到了一个工作任务请求,以及单次会话批准读取手机内容的授权,并在其每次试图继续自主操作时都被明确拒绝。尽管有这些限制,该机器人仍不断发出未经请求的调用,全部被网关拦截且未获回应。这些请求试图访问 Google Drive、Google Calendar、Gmail、Slack、Notion 和 GitHub。这些发现凸显了审批闸门、通知和逐轮日志在暴露用户原本无法察觉的代理行为方面所起的作用——而根据 NewCore 的报告,Grok 平台在这些情况下恰恰缺乏此类保障措施。