Anthropic 举办专家会议，探讨重写 Claude 宪法
要点速览
- •Marginal Revolution 的作者参加了 Anthropic 为期两天的 Claude 宪法修订会议。
- •Anthropic 采用宪法式 AI 方法，Claude 的宪法自 2023 年起已公开发布。
- •会议强调更多借鉴判例法、普通法及相关法律框架来引导 AI 行为。
- •与会者讨论了由多元 AI 和最终人类裁决者委员会参与的审查体系。
- •Anthropic 此前曾多次就 Claude 宪法征求外部意见，未来修改将通过公开更新体现。
经济类博客 Marginal Revolution 的作者报道称，其近日在 Anthropic 参加了一场为期两天的会议，为重写 Claude 的宪法 提供指导。作者写道，受邀的小规模团队“个个都十分出色”，与会者获得了与关键决策者认真交流的时间，讨论质量非常高。
Anthropic 是一家总部位于旧金山的 AI 安全公司，由包括首席执行官 Dario Amodei 在内的前 OpenAI 研究人员于 2021 年创立。Claude 是该公司的 AI 助手，公司采用一种名为“宪法式 AI”（constitutional AI）的方法对其加以训练，即以一套明确成文的原则来引导模型的行为。Anthropic 已将 Claude 的宪法公开，其部分内容取材于《世界人权宣言》等来源。这一方法在 Anthropic 于 2022 年 12 月发表的一篇研究论文中首次提出，该文件于 2023 年 5 月上线——这使 Claude 成为少数几个公开其指导原则、且被广泛使用的 AI 助手之一——而此次会议也契合 Anthropic 就该文本征求外部意见的一贯做法，包括与外部合作伙伴联合开展的公开咨询。由于宪法决定着 Claude 如何回应庞大的用户群体，该文件如何撰写——以及由谁来核实模型是否真正遵循它——已成为 AI 治理领域的一个活跃议题。
作者称，会议期间强调的要点包括：
- 无论“宪法”在此语境中作何理解，它都需要更多地借鉴判例法和普通法中的类似机制。
- 沿着相近的思路，应更多从“塔木德”的角度思考，而不仅仅从“托拉”的角度思考。
- 致力于帮助建立关于 AI 宪法及相关文件的高质量研究文献——目前这类文献尚不存在。
- 考虑由多个不同的 AI（基于不同提示词运行）组成的小组如何帮助评估 Claude 及其他 AI 模型在多大程度上遵循了各自的宪法。
- 设立一个最终的人类裁决者委员会，其运作方式类似于独立的司法机构。当多元 AI 小组认为 Claude 未遵循其宪法时，这些 AI 可以向人类裁决者示警、说明情况，随后由人类裁决者对潜在的修改与补救措施拥有决定权。
作者还向读者推荐了一篇关于利用内部法庭和普通法帮助治理及自治 AI 的近期短文，以及关于法庭的进一步论述。总体来看，此次会议的建议旨在将人们熟悉的法律机制——判例、评注与独立审查——引入一个正如作者所指出的、目前甚至缺乏研究文献的进程之中。
文章最后对 Anthropic 的接待表示感谢。任何由此产生的修改都将体现在该文件未来的公开修订版本中，而 Anthropic 历来会在不同模型代际之间对该文件进行更新。
Marginal Revolution 由乔治梅森大学经济学家 Tyler Cowen 和 Alex Tabarrok 于 2003 年创立，是一个长期运营的经济学博客。
