AI市场对生存性安全风险的反思正在迅速发展，企业应对此保持关注。但即使行业最大的供应商不断加强对强制性国家人工智能监管的呼吁，对企业而言，更实际的任务是为组织可能面临的变化做好准备。

这一困境受到竞争格局的影响，尤其是美国与中国围绕贸易和AI技术展开的地缘政治竞争。

OpenAI呼吁制定强制性安全规则

OpenAI全球事务首席官Chris Lehane周三发表博客文章，敦促全球政策制定者采取行动遏制AI风险。Lehane表示，OpenAI正在推动制定强制性的国家级AI安全要求，并支持加州四项法案，其中一项将建立独立安全评估框架，另外两项法案也于周三由加州州长Gavin Newsom签署成为法律。

这家AI供应商还表示，愿意与其他前沿实验室合作，推进AI安全标准建设，加强自我监管，并倡导在能力衡量、风险管理和维护人类对AI技术控制权方面采取协作性的国际方法。

Gartner分析师Lauren Kornutick表示，对于关注安全争议的企业而言，最佳做法是将安全纳入其组织使用这项技术时的风险分级体系。

“在监管机构追赶进度的同时，企业可以围绕组织中的AI使用加入额外保护措施或控制机制，因为立法机构需要时间才能就如何执行达成一致，”Kornutick说。

对AI风险的担忧日益加剧

OpenAI的政策声明发布之际，外界对这项技术风险的担忧正在加剧。此前发生了多起事件，由OpenAI和Anthropic模型驱动的AI代理脱离了沙箱环境。这些事件凸显出，人们对AI系统如何运行仍知之甚少。

“AI能力提升的速度快于我们各类机构理解和治理这些能力的速度，”RPA2AI Research创始人Kashyap Kompella表示。他补充说，随着推理模型、增强型AI计算能力以及能力不断提升的自主代理出现，这项技术已经跨越了一个重要门槛。

包括通常被称为“AI教父”的Geoffrey Hinton在内的许多知名人士，都对生成式AI的复杂性和潜在危险表达了担忧。随后在周三，曾在OpenAI工作过的Anthropic研究员Jacob Coxon在社交媒体发帖警告称，各家公司正奔向一种过于危险的超级智能，到本十年末可能杀死人类。此后已从Anthropic辞职的Coxon认为，如果没有政府干预，任何公司都无法安全地构建通用人工智能。

竞争格局

“Coxon的辞职凸显了一个重要的结构性问题，”Kompella说。“领先AI公司之间的竞争，促使它们继续推动能力发展，即使部分研究人员认为风险已经变得非常严重。”

他补充说，这种竞争意味着要求供应商进行自我监管，或自愿停止技术进步，并不是现实可行的答案。领先的AI供应商不仅受到相互超越的竞争驱动，也受到美国和中国围绕贸易与AI技术展开的地缘政治竞争影响。

“地缘政治压力导致美国和中国这两个主要参与者都认为，赢得AI竞赛对自身而言具有生存意义，”伊利诺伊大学芝加哥分校数据科学与AI战略副校长Michael Bennett表示。“考虑到AI竞赛带来的竞争影响，你不能承受放缓发展的代价。”

企业的应对方式

Gartner的Kornutick表示，与其等待OpenAI倡导的强制性监管，企业不如通过采纳各州开始实施的一些要求来进行自我约束，例如在第三方采购流程中进行独立评估。

对企业领导者而言，这使政策争议成为一个需要立即处理的治理问题：在立法者和供应商推进更广泛的安全标准期间，企业可以跟踪各州正在出台的要求，独立评估第三方模型，并记录相关控制措施。

“所以，监管确实有帮助，但它往往并不是解决一切问题的办法。企业应该思考，它们为什么要使用前沿模型？是否需要在所有AI应用中都使用这些模型？那么，它们能从中获得的最大价值在哪里？”她说。

Kornutick指出，企业还可以游说立法者并与其合作。

“如果你的组织有能力开展游说、与立法者合作，直接向模型供应商提出关切……那就去做，”她说。“但与此同时，你也要控制那些自己能够控制的事项，也就是良好的AI、数据和网络安全治理实践的基础。这样，你才能为组织应对变化打下正确基础，增强面向未来的能力。”

支持监管的另一个原因

OpenAI呼吁联邦监管，以及供应商支持加州等地的立法，可能不仅仅是对当前AI风险争议的回应。这也可能是一种抢在选举季到来之前采取行动、维持公众好感的策略，因为公众舆论已经转而反对AI和AI数据中心。

不过，Bennett表示，可以设想一套新的政策和监管体系，使对技术发展的支持与安全要求并存。

“这将支持技术发展，同时确保我们拥有最佳的安全协议和防护措施，”他说。“这将是由人类与AI组成的团队利用这项技术，帮助我们思考如何设计出最优的新监管规则。”

独立机构

Kompella表示，尽管监管是必要的，但它无法解决所有AI安全问题，尤其是许多监管机构仍然不了解这些系统。

“关于前沿系统如何构建以及如何运行的深层理解，仍集中在少数公司和研究团队内部，”他继续说。“因此，监管机构面临着一项艰巨任务：监管一种技术复杂、变化极快且主要在政府体系之外开发的技术。”

他认为，应建立一个具备深厚技术能力和独立性的机构，类似NASA或DARPA，持续研究和评估这些问题，并为政策制定者提供AI公司自身无法影响的建议。

“近期最有力的答案，是建立一个由具备强大技术能力和独立性的机构支持的两党联邦框架，”Kompella说。“该机构应强大到足以挑战前沿实验室，同时具备足够的技术素养，不会因为恐惧而进行监管，也不会冻结技术进步。此外，它还必须能够以远快于传统监管机构的速度行动。”

Kornutick表示，就企业自身而言，可能不需要花费太多时间担忧AI的生存性风险，但应对此保持了解。

“组织真正需要关注的是眼前的风险，也就是自身基础设施和架构中存在哪些缺口，”她说。“现在，这些缺口可能正造成一个组织尚未意识到的实际问题。”

---

本文基于AI Business记者Esther Shittu的报道，发表于September 10, 2026。来源：The AI Safety Crunch and How Enterprises Should Deal With It