Anthropic 的 Amodei 在 Palantir 的 Karp 批评后为开放权重立场辩护
要点速览
- •Amodei 表示,Anthropic 并未主张将开放权重模型作为一个类别加以禁止。
- •他认为,更广泛的 AI 能力访问并不一定会比攻击者更有利于防御者。
- •Amodei 认为,没有危险能力的开放权重模型可作为公共产品,为企业、开发者和研究人员提供价值。
- •他表示,Anthropic 更支持防止强大芯片落入威权政权之手、阻止工业规模蒸馏,并对足够有能力的模型进行安全测试。
- •Palantir 首席执行官 Alex Karp 表示,竞争至关重要,并支持与 Nvidia 合作推进开放权重 AI 开发。

Anthropic 首席执行官 Dario Amodei 反驳了有关其 AI 初创公司支持禁止开放权重模型以保护自身竞争地位的说法,此前 Anthropic 并未出现在一封由多家领先 AI 公司签署的联名信中。
AI 领域的领先公司,包括 Nvidia、Palantir 及其他公司,参与了这封信,并宣布与 Open Secure AI Alliance 建立合作伙伴关系。该联盟旨在开发和共享更多开放技术,以提升 AI 时代的安全性,因为风险既可能来自开放模型,也可能来自封闭模型。这一交锋凸显出 AI 行业正在就随着模型能力提升,何种程度的开放最有助于安全、可及性和竞争展开积极讨论。
Amodei 在 Anthropic 网站上的一篇帖子中写道:“Anyone who has read my past writing should know that I don't regard such bans as a useful measure, but let me state it clearly so that there is no doubt: Anthropic has never advocated for a ban on open-weight models.”
“ But I don't agree with the letter's assertions that open-weights models necessarily make it easier to develop safeguards or that broad access to capabilities necessarily helps defenders more than attackers. It seems at least as likely to me that the opposite will be true,” 他写道,并补充说,生物武器在对抗防御措施方面可能占有优势。
Amodei 表示,他认为没有危险能力的开放权重模型是一种公共产品,因为其成本仅限于运行它们所需的计算机,而且它们可以为企业、开发者和研究人员提供价值。
他还表示,自己同意这封公开信中的大部分内容,尤其认同开放权重在扩大 AI 经济准入、增强竞争以及赋予客户更多控制权方面的价值。
“为了总结我和 Anthropic 的立场,我们并没有、也不主张将开放权重模型作为一个类别予以禁止。我们应当把重点放在防止威权政权获得强大芯片、阻止工业规模蒸馏,以及要求所有足够有能力的模型——无论开放还是封闭——都进行安全测试,” Amodei 写道。
Amodei 的信件发布数小时后,Palantir 首席执行官 Alex Karp 接受 FOX Business Network 的 “The Claman Countdown” 独家采访时表示,竞争阻力可能会让科技行业像欧洲一样缺乏活力。Palantir 也签署了支持开放权重 AI 模型使用的那封信。
Karp 表示,他“不是反对 Anthropic”,也并非反对所有封闭模型,但他补充说:“If you want to win, you have to compete on the battlefield.”
“我们的工作必须是拥有世界上最好的 AI;如果你真的要说我们会把所有产品限制在美国商业市场,但它们在海外不会受到限制,而事实也确实如此,那么你实际上就在设定一个两阶段的局面,在这种情况下,没有人能声称我们拥有世界上最好的产品。这简直是疯狂,” Karp 说。
“我们正在与 Nvidia 一起,在开放权重方面为美国政府构建我们的平台。我们可以通过一家完全美国的公司、使用美国的开放权重公司和美国的 GPU,获得世界上最好的性能。我们不需要躲在某种虚假的东西后面,” Karp 说。