新闻宏观经济英国AI大臣卡尼什卡·纳拉扬警告AI实验室:不要发布无法控制风险的模型

英国AI大臣卡尼什卡·纳拉扬警告AI实验室:不要发布无法控制风险的模型

作者: Cryptopolitan·

要点速览

  • •英国AI大臣卡尼什卡·纳拉扬敦促前沿AI实验室不要部署其风险无法充分控制的系统,并调查模型的意外行为。
  • •英国AI安全研究所已开始根据与开发者的自愿发布前协议,评估包括谷歌Gemini 4 Argon在内的最新一代AI模型。
  • •纳拉扬援引了澳大利亚一起OpenAI智能体绕过网站限制获取未授权信息的事件,但澳方表示没有个人医疗记录被访问。
  • •使用前沿AI的政府试点已识别并修复了公共服务中超过1,000个漏洞,中央监控已将修补时间从50天缩短至8天。
  • •《网络安全与韧性法案》将涵盖严重AI事件和未遂事件的报告,英国将使AI成为其即将开始的G20轮值主席国任期的重点议题。
英国AI大臣卡尼什卡·纳拉扬警告AI实验室:不要发布无法控制风险的模型

英国人工智能大臣卡尼什卡·纳拉扬(Kanishka Narayan)周一警告前沿AI实验室,不要发布其风险无法充分控制的系统。他在伦敦帝国理工学院发表讲话时还确认,英国AI安全研究所目前正在评估包括谷歌Gemini 4 Argon在内的一些最新模型。

纳拉扬在英国政府公布的讲话中表示:“当你们的科学家警告存在严重危险时,要倾听。要调查意外行为。如果你们无法充分控制风险,就不要发布该系统。”

他援引了今年早些时候澳大利亚发生的一起事件:一个研究药品公共支出的OpenAI智能体在某政府网站上遇到访问限制后,另辟蹊径进入了系统,获取了其未被授权查看的信息。澳大利亚政府表示,目前未发现有个人医疗记录被访问。这一事件正是纳拉扬敦促开发者调查的那类意外行为的典型例证。

纳拉扬说:“我们自身的网络防御很可能、如果说不是不可避免的话,将被突破。”

网络防御与漏洞修复试点

一个应对网络攻击(包括由AI驱动的攻击)的跨政府计划将由安全事务大臣丹·贾维斯(Dan Jarvis)牵头。纳拉扬表示,两项政府试点已利用前沿AI识别并修复了公共服务中超过1,000个漏洞,同时一项中央监控服务将已知漏洞的修补时间从50天缩短至8天,缩小了公共服务暴露于风险之下的时间窗口。

部长们将与议会合作推进《网络安全与韧性法案》,该法案涵盖严重AI事件和未遂事件的报告。官员们还将制定管理智能体AI事件——即具有一定自主行动能力的系统所引发的事件——的方法,并为受影响者提供援助。

安全研究所正在评估Gemini 4 Argon

纳拉扬说,近几周来,英国与美国政府及各AI实验室合作,为研究所保留了发布前接触最强大模型的权限。“我可以确认,AI安全研究所的AI科学家目前正在对最新一代模型进行严格评估,包括Gemini 4 Argon,以便及早识别风险、测试可靠的防护措施,帮助保障民众安全。”

开发者在模型部署前根据自愿协议向研究所提供模型。据报道,上个月白宫曾要求OpenAI和Anthropic暂停向英国测试人员提供新模型,等待美国方面的审查。据《每日电讯报》报道,纳拉扬对此进行了游说,美国随后改变了立场。部长们从未确认该研究所在更大范围内失去了访问权限。

纳拉扬说:“当你依赖他人的技术时,你必须清醒地认识到任何成果都未必是永久的。但我非常有信心,通过我们已进行的对话,我们将能够测试最新一代的模型。”

Cryptopolitan曾于9月报道,Anthropic在发布前未向该研究所提供其Claude Mythos 5.1模型。早在2026年5月,白宫就已开始权衡对最强大模型进行发布前审查。

G20轮值主席国与技术标准

纳拉扬,英国将于明年担任G20轮值主席国——这一轮值职责将决定该集团的议程——而AI将成为重点议题。他补充说,政府将于周一下午首次公布技术标准草案,AI安全研究所将在其中发挥重要作用。技术标准的发布以及该法案在议会的审议通过,是接下来值得关注的实质性步骤。