随着人工智能领域一些最知名的人物呼吁以前更慢、更审慎的方式推进前沿AI开发，开放权重模型的另一个治理问题正浮出水面：当开发者发布权重（即决定模型如何产生输出的已学习参数）之后，谁应对其安全性负责？

在引发最新一轮AI减速辩论的9月12日文章中，Anthropic CEO Dario Amodei提出，AI发展必须放慢，以便安全工作有时间跟上模型能力的步伐。OpenAI CEO Sam Altman以及其他AI领袖和研究人员也呼吁采取更为稳妥的节奏。

迄今为止，这场辩论主要聚焦于前沿开发者及其控制模型使用方式的能力。然而，一些企业已经在围绕开放权重模型进行试验和构建——下载、定制并在自己的基础设施上运行这些模型。

例如，Databricks在其平台上提供诸如 Kimi K3、Qwen 和 DeepSeek 等模型。更广泛的生态还包括Meta的Llama和Mistral的模型等众多其他模型。这一生态远不止这些知名模型：开源平台Hugging Face报告称，截至8月，其代码库中的公开模型接近300万个，涵盖各种规模和用途的模型。

虽然这些模型让企业对部署拥有更多控制权，但原始开发者通常会失去对已发布权重如何被修改、部署和使用的直接技术控制，尽管许可条款和法律限制仍可对其使用和再分发施加约束。

减速辩论暴露了集中式安全的局限

对于封闭或专有的AI模型，开发者通常管理对系统的访问。它可以施加使用限制、监控活动，并在必要时更改或撤回访问权限。

开放权重模型改变了这一动态。一旦开发者公开发布权重，组织便可以在自己的环境中下载并运行这些模型。它们可以修改或微调模型——利用额外数据将预训练模型适配到特定任务——并可能通过各种基础设施提供商进行部署。

这种灵活性使开放权重AI对企业具有吸引力，但也使传统的AI监督方式更难适用。权重一旦公开可用，原始开发者对组织如何修改和部署模型几乎失去监督。开源供应商在发布权重后实际上也无法将其撤回。

"所提议的补救措施、嵌入式审计员和持续监控只有在供应商仍控制模型的情况下才有效，"总部位于弗吉尼亚州阿灵顿、为餐饮业构建统一商务和智能厨房平台的Qu公司首席AI官Manuel Schonfeld表示。"一旦权重离开大楼，这项工作就落到部署它们的企业身上，而不是训练它们的一方。"

这并不意味着开放权重模型应豁免于安全要求，因为它们本身也可能带来安全和滥用风险。近期一项英国政府委托的研究发现，虽然传统开源软件已有较为成熟的安全实践，但开源AI引入了涉及模型权重、训练数据、微调管道和来源溯源的额外风险。该综述还发现，关于开源AI安全与治理的研究仍然有限。

更严格的监管规则可能推高开放权重AI的成本

解决这一安全挑战的一种方式是让开发者承担更多责任。但如果减速辩论导致更严格的合规与评估要求，大型AI公司可能比小型开放权重开发者更容易满足这些要求。

最大的实验室拥有处理测试、评估和合规的资源，而较小的开发者可能难以满足更严格的要求。

专门为科技公司提供战略与增长咨询的IT服务公司Digital 520的创始人兼首席顾问Noah Kenney表示，如果企业要求较小的供应商提供与大型供应商相同的审计和证据，合规要求可能成为一道障碍。"如果合规成本更有利于大型供应商，企业在最大的AI公司之外的可选余地可能会更少，"他补充道。

Amodei在其文章中提出的第三方安全评估方案也说明了这一挑战。他的计划是让独立评估者对前沿AI实验室持续的、类似员工的访问权限。这种方法在权重发布之后便难以适用于开放权重模型，因为组织可以在不经原始开发者参与的情况下修改和再分发这些模型。

独立评估仍有助于提升AI安全，但开放权重模型使得在开发者发布模型之后确定应由谁来监督变得更加困难。

企业可能承担更多责任

如果减速辩论促使人们更加重视测试、监控和问责，部署开放权重模型的企业可能需要自行承担更多治理负担。

曾与开放权重供应商合作的云端软件测试平台开发商Sauce Labs的总裁兼CEO Prince Kohli表示，开放权重模型让企业在模型运行位置、定制方式以及数据管理方面拥有更多控制权。但这种控制也带来了运营和治理责任。

"企业在决定部署哪种模型时，需要考虑每个用例的风险，"Kohli说。他表示，开放权重模型可能适合简单、低风险的任务，而复杂或业务关键的工作流则对安全性和可预测性有更高的要求。

Kohli说，一旦企业自行修改并运营模型，它就需要了解模型的来源、控制其可访问的数据，并持续评估其输出，尤其是当模型生成代码或驱动可采取或影响行动的智能体时。

Kenney表示，责任分配应大致遵循各方贡献和控制的内容：原始开发者应为其发布的模型及其已知局限性负责，而企业应负责其微调、数据、工具、权限和部署决策。

这意味着企业可能需要验证模型、保护其运行环境、监控生产行为并维护审计证据。

对于企业，尤其是部署开放权重模型的企业来说，安全与治理并不会在选择模型时结束——而是贯穿部署和使用的全过程。挑战不仅在于决定AI应以多快的速度前进，还在于弄清楚，当构建开放权重模型的公司失去对已发布权重使用方式的直接技术控制后，问责机制应如何运作。减速辩论将如何解决——包括任何新的评估与合规要求是否会考虑已经公开的权重——对开发者和企业而言都仍是悬而未决的问题。

来源：AI Business — Calls for AI slowdown raise new challenges for open-weight models