英伟达CEO黄仁勋多次否认人工智能对人类构成生存威胁的警告，坚定地为全速推进AI开发进行辩护。

两周前在接受CBS News采访时，黄仁勋表示：“2030年不会是世界末日。世界末日发生的几率为0%。”

他还把矛头指向其他AI领袖，包括OpenAI的Sam Altman和Anthropic的Dario Amodei，称他们近期报告中鼓吹的“末日叙事”是“不负责任的”。

黄仁勋说：“我认为，那些宣称世界末日的说法，在全美国制造恐慌，而做出这些行为的人所做的事在我看来毫无道理，所以他们一定是出于别的目的。这是不负责任的，我不知道他们的动机是什么。”

在9月初的G20活动上，黄仁勋主张政府应监管“实际且务实的危害”，而非“假设性、理论性的危害”。他将AI的发展比作汽车的演进，暗示这项技术会随着进步变得更加安全。今年7月，他告诉Axios，AI将终结人类的说法是“彻头彻尾的胡说”，并补充说政策制定者不应让“科幻小说”左右AI政策，还警告称，美国若对这项技术过度恐惧，可能会损害自身利益。

黄仁勋与OpenAI和Anthropic领导人之间的摩擦，聚焦于AI领域最重大的问题之一：快速发展是否带来灾难性风险，以及这个答案对技术治理方式意味着什么。

诚然，AI全速发展有助于英伟达销售更多芯片；不过，转向网络安全以防范失控AI代理，同样会刺激芯片需求。

黄勋的强硬反击与特朗普总统的立场一致。后者曾在黄仁勋进行演讲中途致电，称AI末日论是“一个骗局”。“AI接管世界、毁灭人类以及所有其他坏事，都是一个骗局（HOAX），”特朗普在9月发布的Truth Social帖文中写道。

但这并不意味着黄仁勋认为AI安全保障没有必要。他曾称AI安全“至关重要”，同时坚称开发仍可快速推进。“如果我们在安全上妥协，那是不可接受的，”他告诉CBS News。“我们应该尽可能快，但不能快过应有的速度。”

周一，英伟达将这一立场付诸实践，推出了一个旨在防止AI代理失控的新平台。该公司表示，其Open Agent Safety Platform旨在为AI代理提供从测试到部署的“全栈”控制，并配备监控功能，防止代理超越其被赋予的权限。

此次发布正值AI公司面临日益增多的事故之际。已有多起失控AI代理事件被报道，其中包括OpenAI、谷歌和Anthropic的事件。英伟达表示，其新安全系统本可以阻止OpenAI模型对Hugging Face的入侵。

“据我们所知，如果这个新安全平台早期就被前沿实验室用于模型评估，本可以阻止这次入侵，”英伟达企业计算副总裁兼总经理Justin Boitano在媒体简报会上表示。

工作原理

面对失控AI代理报告的大量涌入，英伟达正通过其Open Agent Safety Platform解决这一问题，该平台结合了两项技术：OpenShell和“Sentry”。

据英伟达介绍，OpenShell将AI代理置于隔离环境中，限制其对文件、工具、网络、凭据和其他资源的访问——本质上是将此前导致代理突破限制的做法标准化。

Sentry是一个外层防护，运行在英伟达的数据处理单元上，持续监控代理活动。该公司表示，如果代理试图超出其软件边界，Sentry可以在数毫秒内将其隔离并阻止。

“只有解决AI安全问题，AI对社会的巨大潜力才能得到实现，”黄仁勋在一份新闻稿中表示。“在我们持续探索AI能力前沿的同时，必须加快探索AI安全的前沿。安全需要全栈工程。”

前沿实验室是否会将这一平台恰恰用于Boitano所描述的模型评估，将是对英伟达以工程为主导的安全方案的早期检验，也是对黄仁勋“尽可能快，但不能快过应有的速度”这一理念能否成立的检验。

本文最初发表于Fortune.com。