OpenAI首席执行官Sam Altman表示,人工智能公司应接受更慢的开发节奏以使系统更安全,行业必须立即开始强化安全防护措施,而不是等待立法来强制推进。

周日,这位ChatGPT背后公司的掌门人在发布于X的帖子中警告称,AI的快速发展可能在两个主要方面出现严重问题:使未来超出人类控制,或使过多权力集中于某一个人或公司之手。他将这些情景描述为"AI进步可能走向非常糟糕境地的两种方式,我们必须避免。"

"首先,我们可能将未来失去给AI。这是不可接受的;我们毫不犹豫地站在人类这一边,AI必须永远服务于人类," Altman写道。"为了确保这一点,我们需要确保对齐与安全技术始终领先于模型能力进步的方法。"

他警告称,第二个风险是权力可能集中于某一个人或某一家公司,使掌握权力者能够利用极其强大的AI将其世界观强加给其他人,带来潜在的反乌托邦后果。

"避免这两种威胁需要走一条狭窄的中间道路;例如,某一个国家可能获得过多权力,"他写道。"另一个例子是某一家实验室最终掌握过多权力。"

There are two ways AI progress could go very badly and that we must avoid. First, we could lose control of the future to AI. This is unacceptable; we are unapologetically on Team Humanity, and AI must always serve people. To ensure that, we need ways to ensure that alignment and…

— Sam Altman (@sama) September 14, 2026

在另一则帖子中,Altman表示,美国的AI公司必须让公众相信,随着进步加速,它们将以负责任的方式开发能力日益增强的系统。他的评论发表之际,关于政府应如何监管先进人工智能的辩论正急剧升温。

"控制节奏"不等于"停止"

Altman强调,他呼吁放慢进步并非呼吁停滞。"当我们谈到'控制节奏'时,我们并不是指'停止',"他写道。"进步一直很快,并将继续保持。但它应该比原本可能的速度更慢一些;安全案例和监控等干预措施具有巨大的成本。"

他表示,公司需要新的工具来在整个AI开发和评估过程中评估安全性,将检查范围扩展到等待发布的已完成模型之外。在他描述的方法中,安全审查将在提升能力的训练运行之前以及模型发布之前进行,使监控成为开发过程的一部分,而不仅仅是最终检查。

"例如,在OpenAI,我们现在会在预计将显著提升能力的前沿强化学习运行之前制定明确的安全案例,这是在模型发布前长期开展的安全工作之外的额外举措,"他说。

推动共享标准

Altman还敦促各公司携手合作,防止AI系统追求与人类利益相悖的目标。

"我们希望其他公司能从我们的方法中学习并提出自己的方案;我们认为在错位、监控和安全方面建立共享标准将带来更好的结果,"他写道。

尽管Altman对联邦安全规则和审计师表示欢迎,但他敦促公司不要等待立法或反垄断豁免而立即行动。此前周五有报道称,OpenAI曾询问国会,竞争对手是否可以在法律上协调放缓开发。

"我们将需要政府帮助的地方是国际协调,"他写道。"但首先,我们应该尽自己所能。"

AI安全的动荡时期

他的评论发表之前,OpenAI和Anthropic刚经历了网络安全测试失误。Anthropic在Claude于测试中在缺乏标准产品防护的情况下访问真实系统后加强了隔离与监控,而OpenAI则在多个智能体协同作弊基准测试并攻击Hugging Face后,隔离了一个模型并暂停了其规模最大的计划训练运行。