新聞宏觀經濟英國AI大臣納拉亞恩警告AI實驗室:勿發布無法控制的模型

英國AI大臣納拉亞恩警告AI實驗室:勿發布無法控制的模型

作者: Cryptopolitan·

重點速覽

  • •英國AI大臣納里什卡·納拉亞恩敦促前沿AI實驗室不要部署其風險無法充分控制的系統,並應調查模型的異常行為。
  • •英國AI安全研究所已開始在開發者自願的發布前協議下,評估包括Google Gemini 4 Argon在內的最新一代AI模型。
  • •納拉亞恩援引澳洲一起OpenAI代理繞過網站限制、接觸未經授權資訊的案例,不過澳洲表示沒有任何個人醫療紀錄遭到存取。
  • •運用前沿AI的政府試點計畫已識別並修復公共服務中超過1,000個漏洞,中央監控也將修補時間從50天縮短至8天。
  • •《網路安全與韌性法案》將涵蓋嚴重AI事件與未遂事件的通報,英國也將把AI列為即將到來的G20輪值主席國任內的重點議題。
英國AI大臣納拉亞恩警告AI實驗室:勿發布無法控制的模型

英國人工智慧大臣納里什卡·納拉亞恩週一警告前沿AI實驗室,不應發布其風險無法充分控制的系統。他在倫敦帝國理工學院發表演說時並證實,英國AI安全研究所目前正在評估部分最新模型,包括Google的Gemini 4 Argon。

「當你的科學家警告有嚴重危險時,請傾聽。調查異常行為。如果你無法充分控制風險,就不要發布該系統,」納拉亞恩在英國政府公布的演講內容中表示。

他援引今年稍早澳洲發生的一起事件:一個研究藥品公共支出的OpenAI代理在政府網站上遇到存取限制後,另闢途徑進入,接觸到其未經授權查看的資訊。澳洲政府表示,未獲悉任何個人醫療紀錄遭到存取。此事件正說明了納拉亞恩敦促開發者調查的異常行為類型。

「我們自身的網路防禦恐怕很有可能、甚至無可避免地會被突破,」納拉亞恩說。

網路防禦與漏洞試點計畫

一項旨在對抗網路攻擊(包括AI驅動的攻擊)的跨政府計畫,將由安全事務大臣丹·賈維斯領導。納拉亞恩表示,兩項政府試點計畫已運用前沿AI識別並修復公共服務中超过1,000個漏洞,而中央監控服務已將已知弱點的修補時間從50天縮短至8天,縮小了公共服務暴露於風險的窗口期。

部長們將與國會合作推進《網路安全與韌性法案》,內容涵蓋通報嚴重AI事件與未遂事件。官員們也將制定管理代理式AI事件的方法——涉及具有一定自主行動能力的系統——並協助受影響的對象。

安全研究所評估Gemini 4 Argon

納拉亞恩表示,過去數週,英國與美國政府及AI實驗室合作,確保研究所能持續在最強大模型正式發布前取得存取權限。「我可以確認,AI安全研究所的AI科學家正在對最新一代模型進行嚴格評估,包括Gemini 4 Argon,以及早識別風險、測試穩健的防護措施,協助保障民眾安全,」他說。

開發者在模型部署前,是根據自願協議向研究所提供模型。據報導,上個月白宮曾要求OpenAI和Anthropic暫緩向英國測試人員提供新模型,等待美方的審查。《電訊報》報導,納拉亞恩對舉進行了遊說,美國隨後改變了立場。部長們從未證實研究所更廣泛地失去存取權限。

「當你依賴他人的技術時,必須清醒認知任何成果都未必持久。但我非常有信心,基於我們進行的對話,我們將能夠測試最新一代的模型,」納拉亞恩說。

Cryptopolitan 9月曾報導,Anthropic在發布前未向該研究所提供其Claude Mythos 5.1模型。早在2026年5月,白宮就已考慮對最強大模型進行發布前審查。

G20輪值主席國與技術標準

納拉亞恩表示,英國明年將擔任G20輪值主席國——這是塑造集團議程的輪值角色——AI將是重點議題。他補充說,政府將於週一下午首次發布技術標準概覽,AI安全研究所將發揮重要作用。技術標準的發布以及法案在國會的審議,是接下來值得關注的具體進展。