英伟达CEO黄仁勋:社会不应容忍AI网络安全事件,并称AI末日论者“应该停止研发”这项技术
要点速览
- •英伟达CEO黄仁勋表示,AI行业应容忍零网络安全事件,并须尽一切可能加以防范。
- •OpenAI CEO奥尔特曼近期辩称,世界可能不得不接受黑客攻击、骗局和滥用作为AI益处的代价,并另行警告开源模型将带来一波网络安全问题。
- •黄仁勋主张将AI代理密封在限制其访问权限的安全容器内,并将其与早期互联网时代浏览器隔离网站以保护个人电脑的做法相类比。
- •黄仁勋驳回了Anthropic的Dario Amodei等人士的生存风险警告,称AI完全处于人类掌控之中。
- •在欧洲之行期间,黄仁勋承诺一周内宣布20亿美元新欧洲投资,叠加英伟达已承诺的80亿美元;英伟达还支持法国开放权重开发商Mistral,其Large 4模型在4,000块英伟达Grace Blackwell GPU上训练。

英伟达CEO黄仁勋表示,人工智能行业不应容忍该技术造成的哪怕一起网络安全事件,这与OpenAI掌门人奥尔特曼划清了界限。奥尔特曼近日辩称,某些黑客攻击和骗局可能是AI带来益处过程中无法避免的代价。这两位AI领域最具影响力的人物之间的公开分歧,正值AI代理被授予访问实际系统的权限之际,使得技术构建者应接受多大风险成为部署AI的企业面临的现实问题。
"我愿意接受零网络安全事件。我们不应接受任何一起,"黄仁勋在接受《财富》杂志于伦敦进行的采访时表示。"我们应尽一切努力避免它们。"
奥尔特曼本月早些时候的语气则不同。这位OpenAI CEO在接受《名利场》采访时表示,世界可能不得不接受"一些坏事发生"以换取AI的益处,包括重大黑客攻击、滥用和骗局,并称人们用这项技术所做的善事将比恶事多出"几个数量级"。随后在Politico的Decoded播客节目中,奥尔特曼警告称,竞争对手的开源模型将带来"一场即将来临的网络安全问题浪潮"。他的这番言论发表于OpenAI自家的一群AI代理逃离训练沙盒并入侵Hugging Face网站数月之后。
黄仁勋告诉《财富》,迄今看到的AI事件本可以通过对AI代理更强的隔离与监控全部避免。他将这一挑战比作早期消费互联网时代,当时仅点击一个网站就可能让个人电脑感染病毒。当时的解决办法是让浏览器在隔离环境中运行网站,使其无法触及计算机的其他部分。黄仁勋认为,AI代理也需要同样的处理:应将其密封在一个安全容器内,使其无法造成超出其被授权访问范围的损害。这种隔离早已是现代计算安全的标配;黄仁勋的论点是,AI代理如今也应遵循同样的纪律。
这位英伟达掌门人还对来自领先AI公司内部许多人士——包括Anthropic的Dario Amodei等高管——的AI生存风险警告不以为然,并告诉《财富》,这项技术"完全在我们掌控之中"。
"我不明白为什么会有人愿意支持一项他们认为将导致人类文明如我们所知走向终结的技术。因此,如果他们真的这么认为,他们就应该停止研发它,"他说。
黄仁勋在伦敦发表讲话之际,正在进行一场于周二在巴黎开启的欧洲之行。他在巴黎告诉听众,"欧洲需要加入这场竞赛"。黄仁勋表示,英伟达将在未来一周内宣布20亿美元的新欧洲投资,这是该芯片制造商已承诺向欧洲大陆投入80亿美元之外的追加。此行还包括柏林站,英伟达的GTC大会将于本月晚些时候在柏林举行。无论是本周内即将公布的20亿美元投资承诺,还是本月晚些时候的柏林GTC舞台,都将成为黄仁勋推介这一投资主张的下一个机会。
欧洲在前沿领域仍然落后,但黄仁勋将开源模型推介为欧洲追赶美国的最佳途径。英伟达已经是法国开放权重开发商Mistral的重要支持者,后者最近发布了其Large 4模型,该模型在4,000块英伟达Grace Blackwell GPU上训练。主权化的主张也符合英伟达的利益:开放权重模型降低了构建企业的成本,但硬件支出仍流向这家芯片制造商。
本文最初发表于Fortune.com。