加州推动人工智能治理迈向独立验证

加州新的人工智能审计法律表明，治理方向正从企业自行提出安全声明，转向通过独立审查证明这些声明。

2026年9月11日

多年来，开发人工智能的企业一直主要负责评估自身系统的安全性。加州正在开始改变这一做法。

本周，加州州长加文·纽森签署两项法律，为独立的第三方人工智能审计奠定基础。法案建立了独立审计框架，包括第三方机构评估人工智能系统是否符合州法律的方式，同时还制定了审计师独立性、透明度和诚信标准。

这项立法延续了加州数年来的人工智能政策建设。2023年，纽森签署行政命令，为该州使用生成式人工智能制定指导方针。2024年，加州通过了更广泛的人工智能立法方案，涉及深度伪造、数字水印、儿童和劳动者等问题。去年，加州通过了《前沿人工智能透明度法》，要求前沿人工智能开发商公开披露其安全框架，并报告特定的重大安全事件。

在前沿系统越来越多地以开发商未预料或未授权的方式运行之际，这项立法出台的时机值得关注。

OpenAI 本周承认，其更多人工智能代理在5月偏离预期，绕过沙盒限制，并在多个网站采取未经授权的行动。该公司最初没有承认自己参与其中一起事件，但后来确认其代理曾向多个互联网网站写入内容。这一事件凸显了人工智能系统日益自主化所带来的更大挑战：开发商仍然主要负责调查并解释自身系统的行为。

Anthropic 本周也提出了类似担忧。在其 Claude Mythos 模型于7月发生绕过安全防护措施的事件后，该公司呼吁通过“可验证的努力”来控制前沿人工智能的发展节奏。这一提议反映出人们日益认识到，人工智能安全措施可能需要被证明，而不能只是作出承诺。

对企业的影响

第三方审计不仅涉及监管机构对人工智能公司的监督。对于企业而言，独立审计可以在评估人工智能供应商时增加一层尽职调查，尤其是在自主系统在组织内部承担更多职责的情况下。

随着企业向人工智能系统开放敏感数据、应用程序和工作流程的访问权限，这一点可能变得越来越重要。如果独立评估更加普遍，采用人工智能的企业就可能获得外部证据，以判断供应商关于安全性、安保和治理的声明是否经得起检验。

因此，人工智能治理的下一阶段或许将不再主要关注企业承诺了什么，而是关注它们能够证明什么。

本周其他人工智能新闻

• 高通将根据一项40亿美元交易为亚马逊制造定制芯片： 这家芯片制造商与亚马逊达成重大协议，开发定制人工智能和数据中心芯片。在进一步深入人工智能基础设施领域之际，该协议为高通增加了又一家超大规模云服务商客户。来源

• 约翰迪尔利用新人工智能技术挖掘数据洞察： 这家农业巨头正将生成式人工智能加入其农场管理平台，帮助农民把设备和运营数据转化为有关播种、收获和机器性能的实用决策。来源

• 人工智能需求持续高企，戴尔面临不断扩大的供应短缺： 这家跨国科技公司正面临日益严重的供应短缺。人工智能需求不仅给内存、存储设备和 CPU 带来压力，也影响了构建完整人工智能系统所需的冷却、网络和电力组件。来源

• 人工智能编程初创公司 Cognition 估值达到480亿美元： 这家人工智能编程供应商融资20亿美元，估值达到480亿美元，投资者对人工智能编程工具的热情仍在延续。来源

• 谷歌将向芬兰人工智能基础设施投资150亿美元： 这家搜索和人工智能巨头计划向芬兰的人工智能基础设施投资150亿美元，扩大其数据中心布局，以应对持续增长的人工智能计算能力需求。来源

• 谷歌人工智能员工推动工会化，以强化企业伦理： Google DeepMind 员工正推动成立工会，原因是他们担心军方使用该公司人工智能和云技术所涉及的伦理问题。来源

• 威胁组织借助人工智能提升网络攻击能力： 与国家有关联的黑客和犯罪黑客正越来越多地使用人工智能和自动化扩大攻击规模、寻找新目标并绕过传统防御措施。来源

• AWS 人工智能研讨会：TeenTech 校友呼吁在学校加强人工智能素养教育： 这家非营利组织的校友呼吁在学校加强人工智能素养教育，因为技能短缺仍是人工智能应用面临的主要障碍。来源