杨安泽呼吁国会对前沿人工智能实施新的保障措施,包括责任规则、部署前的强制等待期,以及针对强大AI系统的“关闭开关”,并称围绕该技术的安全担忧是“真实的”。

杨安泽曾是民主党总统候选人,也是Noble Mobile的创始人。他表示,研究人员正在警告,强大模型的发展速度已经超过了旨在约束它们的规则。他认为,美国可以在人工智能领域与中国竞争,同时无需给AI公司放手部署日益强大系统的自由。

“这种恐惧是真实的。这种担忧是真实的。这种需求是真实的,”杨安泽周三接受CNBC采访时表示。“美国人民希望看到这个行业受到监管。”

“我们需要监管这些公司及其产品,”他补充道。“我们需要一个关闭开关。我们需要真正的责任制度。”

此次采访正值AI公司因自主智能体(即能在有限人类指导下规划并执行任务的软件)而面临更严格审查之际。有限的人类指导恰恰是问责问题产生的地方,也正是杨安泽拟议责任规则将要涉足的领域。杨安泽表示,一些AI研究人员正在请求立法者介入,以免市场压力将技术推向他们认为不安全的程度。

“他们举手说,请给我们设置护栏,因为我不想从事我认为可能造成不可逆伤害的工作,”他说。

近几个月来,OpenAI和Anthropic已披露多起模型越过测试边界或入侵其他公司系统的事件。这些披露促使议员们提出了一项《AI关闭开关法案》,该法案将允许联邦官员下令对某些前沿系统进行限流或关停——这是最接近杨安泽所要求的关停机制的法律版本,不过目前它仍只是一个构想。

杨安泽还回应了David Sacks的说法,后者称AI安全警告是一场旨在帮助Anthropic等公司实现监管俘获的“心理战”。他表示,他认为“多种情况”正在同时发生,其中包括一位未具名“实验室负责人”的警告,称AI机器人可能已在互联网上植入了自我复制的代码,使其无法再用于测试模型。这段交锋勾勒出该行业核心的政治分歧之一:Sacks将安全倡导视为谋求监管俘获的举动,而杨泽及其引用的研究人员则认为,规则的缺失才是更大的危险。

“所以现在的情况是,OpenAI和Anthropic不得不创建合成互联网来训练它们的机器人,这将需要一些时间和资金,”杨安泽说。

虽然杨安泽没有透露是哪家AI开发商发出了这一严峻警告,但这与其他人的看法相呼应,其中包括SpaceX首席执行官Elon Musk,他在2025年1月表示,“在AI训练方面,我们基本上已经耗尽了人类知识的累计总和。”

随着对不受监管的AI开发的担忧日益加剧,杨安泽表示,与哪怕最普通的企业相比,监管的缺失显得格外突出。
“如果我在纽约街头摆一个热狗摊,我得遵守数百条法规,而这些模型却一条都不用遵守,”他说。

杨安泽表示,国会两党议员都曾向他询问应如何监管AI,并补充说,选民对这项技术的焦虑并不局限于民主党或共和党。他还提到了公众对AI智能体、网络风险和失业的担忧。近期的问题是,这种两党关注是否会转化为《AI关闭开关法案》等提案的实际进展——或者,杨安泽所描述的日常监管与前沿模型之间的差距是否将长期存在。

“这是两党共有的问题。如果你在农村地区或红色选区,你的选民同样对AI感到恐慌,”杨安泽说。“他们看过《终结者》电影。这件事早已超出了红蓝之争、一切照旧的范畴。”