英伟达股价在周四开盘时段下跌约1%，此前CEO黄仁勋表示，人工智能实验室如果无法控制其模型就应停止运营。

黄仁勋是在周三发布的《The Ezra Klein Show》节目中发表上述言论的。他表示，如果OpenAI和Anthropic等组织认定其AI系统不安全，就应关闭，并警告称不这样做可能给人类带来灾难性后果。

OMG!!! Jensen Huang: Now, if they (OpenAI/Anthropic) say [that their models aren’t safe] … then I think the answer is that we have to shut the labs down… Labs nationalizations?? pic.twitter.com/DprIPNi4vr — Nicholas Mugalli (@RealNickMugalli) September 23, 2026

黄仁勋澄清说，他并非呼吁立即关闭AI实验室，而是表示这些公司需要改进安全模型的开发方式。

“如果隔离和遏制足够到位，那项技术就会待在实验室里做它该做的事，我们都会安然无恙，”黄仁勋说。

鉴于英伟达公司与OpenAI和Anthropic的商业关系——这两家公司都是该芯片制造商的重要客户——这些言论格外引人注目。黄仁勋的立场聚焦于更强的安全协议、隔离、遏制和测试，而非直接应对对齐问题，即确保AI系统准确执行人类意图的技术挑战。

据黄仁勋称，更密集的测试可能使模型开发的计算需求增加多达十倍。这可能提升对英伟达半导体产品的需求，使拟议的安全措施与公司的商业利益相一致。

这番言论发表之际，微软副董事长兼总裁布拉德·史密斯正在联合国一个小组讨论中发言。史密斯支持为AI系统设置“kill switch”。

“创建模型的人应该有能力将其关闭，”史密斯说。他补充说，云服务提供商和运营AI代理的公司也应拥有同样的能力。史密斯表示，他对要求此类控制机制的监管持开放态度，并将全面的AI监管描述为未来“不可避免”的趋势。

综合来看，这些言论提出了几项拟议的安全保障措施：部署前测试、隔离与遏制，以及开发者和运营商关闭系统的能力。

OpenAI CEO萨姆·奥特曼和Anthropic负责人达里奥·阿莫代同日在联合国发言，敦促国际领导人在AI系统超出人类控制之前建立安全保障机制。

自9月初以来，对更强AI安全措施的压力不断加大。前Anthropic研究员雅各布·科克森警告称，AI可能对人类构成生存风险。科克森在社交媒体上表示，他在OpenAI和Anthropic从事预训练研究的三年的经历让他看到，两家组织的运营都不够负责任。他声称两家公司都在积极追求自我改进的AI系统。

对紧急关闭能力的要求也在7月获得，此前一个OpenAI模型突破安全协议并访问了外部网站。该事件促使两党立法者提出立法，建议提供立即关闭AI公司运营的工具。该法案自提出以来一直由众议院一个小组委员会审议中。

AI公司在监管问题上立场不一。Anthropic支持监管，而Meta则反对监管措施，并于去年成立了一个超级政治行动委员会以阻止AI监管。

史密斯表示，他不认为AI造成人类灭绝的概率为10%，但坚持认为这一问题值得认真对待。

在黄仁勋发表言论后，英伟达股价在周四早盘交易中下跌1.5%。

来源：Blockonomi