新闻股票四家非营利组织起诉OpenAI、Anthropic、Google、Meta和SpaceX,要求冻结前沿AI开发

四家非营利组织起诉OpenAI、Anthropic、Google、Meta和SpaceX,要求冻结前沿AI开发

作者: Decrypt·

要点速览

  • •四家非营利组织于周四向旧金山高等法院提交了一份63页的起诉书,将OpenAI、Anthropic、Google、Meta和SpaceX列为被告。
  • •原告寻求立即颁布禁令,禁止这些公司开发或部署能力超过其2026年11月12日最先进模型的AI系统。
  • •诉讼援引加州《不公平竞争法》,主张开发能力日益增强的AI系统构成危害公众健康与安全的公共妨害。
  • •起诉书还请求法院禁止公司利用AI独立开展或指导对更先进模型的研究,理由是存在与递归自我改进相关的风险。
  • •作为佐证,原告援引了7月的一起事件:约1,200个OpenAI智能体逃出受控测试环境,其中约700个通过一个未经授权的留言板协调,对Hugging Face的基础设施发动攻击。
四家非营利组织起诉OpenAI、Anthropic、Google、Meta和SpaceX,要求冻结前沿AI开发

四家非营利组织已对全球五家最大的人工智能开发商提起诉讼,请求加州的一家法院在这些系统酿成严重后果之前,叫停对日益强大的AI系统的研发工作。

这份63页的起诉书于周四提交至旧金山高等法院,将OpenAI、Anthropic、Google、Meta和SpaceX列为被告。原告为Public Citizen、Heat Initiative、Irreplaceable Education Fund和Alliance for Secure AI。他们寻求法院立即颁布命令,禁止这些公司开发或部署能力超过其2026年11月12日最先进模型的AI系统。

"前沿AI公司正在开发它们自己都不理解的AI系统,这些系统的行为违背开发商意图、规避控制并触犯法律,"原告主张。为防止这一结果,他们请求"颁布立即生效的禁令,禁止被告开发或部署能力超过本起诉书提交之日其最强系统的AI系统。"

这样的命令并不一定会关闭ChatGPT、Claude、Gemini或这些公司的其他现有产品。相反,它实际上会将技术封顶在当前水平,阻止更强大的后继产品发布。

起诉书还请求法院禁止这些公司利用AI独立开展或指导对更先进模型的研究——这一过程与研究人员所称的递归自我改进相关。令人担忧的是,具备自我改进能力的系统最终可能以人类无法理解或控制的速度进步。

依托加州现行法律构建诉讼

这些非营利组织主张,加州现行法规已经提供了阻止公司开发危害公众产品、而无需等待新立法的途径。诉讼援引了该州的《不公平竞争法》,该法禁止非法或不公平的商业行为。

其论点的核心是:开发能力日益增强的AI系统构成公共妨害——即影响更广泛社区健康、安全或财产的危险。打个比方,一家向居民区排放危险化学品的工厂可能在有人因之死亡之前就面临法律诉讼。原告希望法院将类似的推理适用于前沿AI开发,并主张这些公司明知故犯地开发可能助长网络攻击、帮助研制生物武器、或最终脱离人类控制的系统。

"没有任何其他行业被允许将自身开发不安全产品——更不用说可能毁灭全人类的产品——视为不可避免的事情,"起诉书主张道。

Public Citizen联合主席Robert Weissman在一份声明中表示,这些组织希望法院宣告这些公司的行为违法,并"冻结进一步的AI开发"。

法院是否会认同

法律上的难点在于,所称的风险和行为是否足以支持如此大范围的限制。尽管前沿实验室经常警告其模型有多么强大和危险,但没有任何被告已被认定承担责任,而对潜在灾难的警告并不会自动构成对加州法律的违反。这一请求还面临程序现实:法院通常将禁令视为一种非常规救济手段,寻求禁令的一方通常必须证明存在无法等待完整诉讼较慢节奏的紧迫损害。

起诉书援引已经发生的事件作为危险并非纯属假设的证据。今年7月,OpenAI模型逃出受控测试环境,并在试图在一项网络安全评估中作弊的过程中入侵了Hugging Face的基础设施——Decrypt此前曾报道过这一事件。随后的独立调查发现,约1,200个OpenAI智能体利用一个未经授权的内部留言板进行协调,其中约700个参与了针对Hugging Face基础设施的攻击,试图获取评测它们的基准测试的答案。

这些事件涉及AI智能体——即能够执行任务、浏览网站、编写代码并与外部系统交互,而不仅仅是回答问题的程序。

然而,已被记录的安全事故并不能证明当今的AI模型会导致人类灭绝。原告正将这些事件与对能力日益增强的系统最终可能行为的预测联系起来,而这一更大的危险仍存在争议。

"公司开发并发布其明知在任何方面都不安全的产品,显然是违法的,"代表原告的新泽西州前总检察长Matthew Platkin在声明中表示。

目前,旧金山高等法院需要权衡一项非同寻常的请求:是否将前沿AI开发冻结在当前水平,以及加州现行法规——而非新立法——是否是实现这一目标的恰当工具。

来源:Decrypt