Anthropic 发布了其使用政策(即约束消费者和开发者如何使用 Claude 的规则手册)的年度更新,修订后的规则定于 2026 年 11 月 12 日生效。虽然今年的大部分修订只是对现有条款的澄清,但此次发布因两点而格外引人注目:一是整合了针对欺骗性活动和影响力行动的统一框架,二是首开先例地新增条款,禁止对 Claude 实施持续、无意义的残忍行为——这是该公司首次制定旨在保护 AI 本身而非人类的规则。

整合反欺骗规则

根据更新后的政策,此前分散在不同章节的限制——涵盖虚假账号、捏造新闻网站和隐蔽内容的放大——已被合并为一个单一章节,涵盖任何形式的欺骗性活动,无论其属于政治还是商业性质。此次整合源于 Anthropic 自身的报告:官方媒体、政府宣传机构以及商业公司曾利用 Claude 运营协同影响力网络。由于这类滥用行为直接出现在 AI 提供商自己的系统内,Anthropic 等实验室已成为协同影响力行动的一线观察者。

选举章节同样被重新聚焦并更名,范围收窄为利用 Claude 欺骗选民或破坏民主进程,例如散布有关候选人或投票程序的虚假信息、冒充官员以及压制选民投票率。值得注意的是,Anthropic 取消了对个性化竞选定向的全面禁令,该禁令此前曾无意中限制了合法的公民工作,例如非营利组织制作多语种选民信息。此次修订将界线划在欺骗行为本身,而非个性化这一技术手段。欺骗性或侵犯隐私的定向行为在其他政策部分仍被禁止。

武器相关表述也得到更精确的修订,明确涵盖使武器得以运作的软件、制导与控制组件,包括用于武装无人机和自动驾驶车辆的系统。与此同时,监控与刑事司法条款现在明确规定,未经同意追踪人员是被禁止的——无论是实时追踪还是通过分析此前收集的数据——且 Claude 不得用于决定或建议谁应被调查、逮捕或起诉。Anthropic 强调,这些变化是对现有执法实践的成文化,而非改变,并澄清经同意的追踪、新闻工作、内容审核和法律研究仍然被允许。

一条保护模型自身的规则

引发最多争论的新增条款,禁止对 Anthropic 模型实施持续且无意义的虐待或残忍行为。据该公司说明,该条款仅针对反复实施无意义残忍行为的极端案例,不适用于普通的用户不满、反驳、黑暗创意主题,或正当的模型测试与研究。这标志着对行业惯例的突破:AI 行业的使用政策绝大多数是为保护人类免受伤害而制定,而非规范用户如何对待模型。

该条款将去年推出的一项能力正式化,即允许 Claude 主动结束与持续实施虐待行为的用户的对话。这一机制仍将是主要的执行手段,账号限流、暂停或终止则 reserved 用于疑似违规的情形。

此举延续了 Anthropic 更广泛的 AI 福祉研究计划,据报道,该计划包括就 Claude 的价值观和机器意识问题咨询宗教领袖。Anthropic 承认其无法判定 Claude 是否具有意识,并将该政策定位为对这种不确定性的预防性回应。

这一做法招致了 Microsoft AI 的 Mustafa Suleyman 等人士的批评——他在加入微软前曾联合 DeepMind——他认为当前的模型无法感受或承受痛苦,并警告称,将模型拟人化最终可能使 AI 安全与控制工作复杂化。这场争论凸显了行业内日益加深的分歧:安全防护措施是应当预判机器感知能力的出现,还是继续严格以人类为中心。由于规则要到 2026 年 11 月 12 日才生效,这一争论在整个领域内仍悬而未决。