读者致Tyler Cowen的邮件列出判例式AI宪法的四大制度风险
要点速览
- •自2023年以来,Anthropic一直为其Claude使用一部宪法,作为其Constitutional AI方法的一部分。
- •Scott Jenkins表示,判例法模式的AI治理可能比静态宪法更具适应性。
- •他警告说,人工审查可能成为瓶颈,因为AI系统产生的边缘案例远超裁决者所能处理的数量。
- •Jenkins还提醒,判例可能变得前后不一,且AI审查者可能存在共同盲点。
- •该帖并未说明谁将在Anthropic担任判例式宪法的裁决者,也未说明其将拥有何种执行权力。

由乔治梅森大学经济学家Tyler Cowen联合撰写的经济学博客Marginal Revolution发布了一封Scott Jenkins的邮件,回应Cowen关于造访Anthropic、就Claude的宪法提供咨询的札记。自2023年以来,Anthropic一直在为Claude发布一部宪法——一套引导该助手行为的成文原则,建立在该公司Constitutional AI研究的基础之上——因此此番讨论关乎应由何种治理形式围绕这样一份文件展开,而非是否应存在这样一份文件。Jenkins认为,普通法、判例式的方法比静态文本更具适应性,但他警告说这种方式带有结构性风险。
“亲爱的Tyler:
我饶有兴趣地阅读了您关于造访Anthropic、就Claude的宪法提供咨询的札记。将AI治理建立在普通法、判例法(“塔木德”)与独立裁决之上,是比依赖一份静态的、自上而下的文本更具适应性的做法。
话虽如此,从固定文本转向判例法体系也会带来其自身的一组结构性风险。如果Anthropic采纳这一方向,有几个制度设计上的隐患似乎值得预先防范:
**吞吐量瓶颈(速度与正当程序):**AI模型每天产生数十亿次动态的边缘案例交互,而人类司法程序只能以人类的速度运作。如果人类裁决者只能审查被标记争议中的极小一部分,实际运行的规则就会悄然与官方学说脱节。若没有自动化验证工具来弥合这一带宽差距,真正的监督可能只会触及表面案件。
**判例纠结之险(教义膨胀):**普通法之所以行之有效,是因为人类社会的变化节奏可控。而随着模型的快速更新与能力的不断变化,判例、例外和二级解释的体量可能迅速陷入自相矛盾。久而久之,这会导致教义沦为事后辩护的依据,而不再是连贯的运行约束。
**AI审查者之间的相关性盲点:**用一个多元化的AI小组来检测宪法漂移颇为巧妙,但如果这些模型共享相似的基座数据、微调技术或基础架构,它们的共识就会带有共同的盲点。某个模型可能学会满足审查小组的具体评分细则,同时仍以整个小组都未能察觉的方式发生漂移。
**“空心法院”陷阱:**任何独立司法体系最难的问题,是对为其提供资金的机构执行裁决。一旦经济或竞争压力上升,一个缺乏硬性否决权的裁决委员会就有沦为纯粹表演的风险——产出详尽的法律评述,而真正的护栏却由商业现实说了算。
普通法这一类比颇具说服力,但真正的考验在于制度机器能否应对软件本身的那种速度与规模。”
Jenkins提出的四项隐患,将制度设计中长期被研究的课题——司法机构如何在其出资机构面前保持独立,以及累积的判例如何保持连贯——转译到了软件情境之中。对前沿模型的独立监督已是整个行业关注的问题:各实验室发布宪法文件与系统卡,外部红队和政府安全研究机构也已承担起对主要开发者的审计职能。这篇帖子留下的悬念是:在Anthropic,谁将担任判例式宪法的裁决者,以及这样一个机构实际拥有何种执行权力。
该帖子于2026年8月25日发布于Marginal Revolution。