新闻宏观经济希肯卢珀参议员表示:美国必须赢得与中国的AI竞赛,但对前沿模型应像核武器与飞机一样加以监管

希肯卢珀参议员表示:美国必须赢得与中国的AI竞赛,但对前沿模型应像核武器与飞机一样加以监管

作者: Fortune Crypto·

要点速览

  • •希肯卢珀对AI系统可能在其预定领域之外重塑自身表示担忧,称或许不需要无限度的递归学习。
  • •在敦促美国前沿AI必须在国际竞争中做到世界最优的同时,他并不反对各实验室快速推进,并建议借鉴核武器和航空领域的现行监管模式。
  • •今年9月,包括Geoffrey Hinton和Yoshua Bengio在内的20多名研究人员发表论文,警告自动化AI研究可能引发“智能爆炸”,合著者Alan Chan表示有效的安全机制尚未到位。
  • •希肯卢珀支持的《两党美国可负担性与就业法案》将加快能源项目审批,并要求数据中心承担新输电线路和变电站的全部成本;该法案在特朗普支持下以73票对25票的参议院投票获得推进。
  • •在Jensen Huang辞去英伟达CEO职务后,参议院银行委员会已要求Huang和商务部长Howard Lutnick于下月作证,希肯卢珀希望明确美国与中国共享技术的安全程度。
希肯卢珀参议员表示:美国必须赢得与中国的AI竞赛,但对前沿模型应像核武器与飞机一样加以监管

参议员约翰·希肯卢珀希望美国人工智能在这场他眼中的国际AI军备竞赛中获胜。但他并不确定前沿系统是否需要具备不受限制地重塑自身的能力。

“也许我们不需要无限度的递归学习,”这位科罗拉多州民主党人周一在底特律举行的《财富》500强创新论坛上通过视频连线对《财富》杂志的Diane Brady表示。他描述了机器“有时会在其本应停留的领域边界之外重塑自身”的现象。

“这应当引起真正的担忧,”希肯卢珀说。

他的此番言论是在他赢得第二个也是最后一个任期两周之后发表的,他在选举夜以61%对35%的优势击败了共和党州参议员Mark Baisley。虽然他的席位原本被预计会留在民主党手中,但民主党在上周的中期选举中通过赢得八个席位取得了参议院控制权,而数据中心与AI建设正是影响选民决定的最常被提及的议题之一。

作为对技术和通信政策拥有管辖权的参议院商务委员会成员,希肯卢珀在AI建设持续推进、AI公司利用自身模型加速研究之际发表上述评论。今年9月,包括Geoffrey Hinton和Yoshua Bengio在内的20多名研究人员发表了一篇论文,警告自动化AI研究可能引发“智能爆炸”。论文的主要合著者之一Alan Chan表示,有效的安全机制尚未到位。

希肯卢珀表示他并不反对各实验室快速推进。“他们在尽可能快地推进。我理解这一点,这是好事,”他说,并提到了国际竞争。“我们要确保我们的前沿AI是世界上最好的,因为它有主导全球的潜力。”

在他看来,美国可以借助针对其他技术的现行规则来安全地实现这一目标。“我们对核武器进行监管。飞机投入使用之前也有监管规定,”他说。“我们需要审视应当建立哪些基本的安全保障和护栏。”

一场全球军备竞赛

Brady还问到了英伟达和商务部长Howard Lutnick的相关问题。此前,Jensen Huang在上周因被曝与一名涉嫌中国间谍有染而辞去英伟达CEO职务。参议院银行委员会已要求Huang和Lutnick于下月作证。希肯卢珀并非该委员会成员,他表示自己对此案的疑问“并不那么迫切”,但他希望先了解基本情况。

“我们与中国的关系是什么?在任何层面上与他们共享我们的技术,我们有多大安全感?”他说。“因为我对此感到不安。”

在国内政策方面,希肯卢珀支持《两党美国可负担性与就业法案》以帮助约束数据中心。这项许可法案将加快能源项目的审批,并要求数据中心为服务于它们的电网升级买单。参议院上周以73票对25票投票同意开始就该法案进行辩论——这是进入全院审议的第一个程序性步骤——特朗普总统也已表示支持。

希肯卢珀表示,数据中心首先应保证不会给周边社区带来噪音、危害或滋扰。根据这项两党法案,新输电线路和变电站的成本“将完全由数据中心承担”。这些成本条款直接回应了使数据中心成为中期选举中反复出现的主题的可负担性担忧。

他称该法案是一项妥协。特朗普“不喜欢风能,也不喜欢太阳能,”希肯卢珀说,但该法案将使这两种能源与天然气处于同等地位。他表示,虽然该法案存在局限,但如今的版本相比最初已“大为改善”。

“我希望我们能走得更远。”

希肯卢珀将中期选举结果解读为对他所在政党的一次考验,而非可以稳操胜券的胜利。“这不是一份授权,”他说。“我认为这更像是一份待办清单,几乎像是一场试镜。”他表示,民主党人必须证明他们能够降低成本并创造就业。

“当你想达成一项协议时,你必须弄清楚你在和谁谈判,”他说。“你必须了解对方能从中得到什么,并找到一种让双方都能从最终协议中受益的方式。”

本文最初发表于 Fortune.com。