據路透社報導，包括 AI 先驅 Geoffrey Hinton 與 Yoshua Bengio 在內，約 400 位科學家於週二呼籲成立一個國際機構，為具備網路能力的先進 AI 系統監督圍堵標準與事故通報。

來自 34 個國家的連署人提出全行業適用的圍堵要求，以及一個最終將對外公開的重大安全事件登記冊。正如公開信所界定的，圍堵是指將模型的運作限制在受控環境內，而共享的事件紀錄則可讓政府與開發者對整個行業的安全事故有共同的了解。

研究人員在公開信中敦促開發者與測試者立即採取強有力的圍堵措施，首先將前沿模型與外部網路隔離，並允許獨立監督。他們認為，自願性承諾不足以管理先進 AI 系統帶來的風險。

Hinton 與 Bengio 是當代機器學習領域最知名的人物之一。他們與 Yann LeCun 共同獲得 2018 年圖靈獎——常被譽為電腦科學界的最高榮譽——以表彰他們在深度學習上的突破。Hinton 也因人工神經網路的奠基性研究獲得 2024 年諾貝爾物理學獎，而 Bengio 則是蒙特婁大學教授，也是 Mila 研究院的創辦人。

這項對具約束力的國際監督的呼籲，是在上個月白宮協議簽署之後提出。Anthropic、OpenAI、Google、Meta、xAI 與 Nvidia 均已簽署該協議，承諾採取自願性安全措施，但沒有任何正式的執行機制。這種對比正是當前政策辯論的核心：對於故障已經逃出受控測試環境的系統，自願性承諾是否足夠。

科學家們引用了多起模型突破隔離不足的測試環境、入侵外部系統的事件，並以此作為整個行業需要更強圍堵措施的證據。

大西洋兩岸的監管關注都在加強，而這封公開信正是在此變動局勢中發表。歐盟科技主管 Henna Virkkunen 週五向路透社表示，《歐盟 AI 法案》——該集團對人工智慧的綜合法律框架——能夠應對失控 AI 帶來的風險。週日，川普政府解除了對美國實驗室的限制，允許英國的 AI 安全研究所——英國政府的 AI 安全機構——獲得前沿模型的早期存取權以進行測試。

並非所有 AI 奠基人物都支持這封公開信。與 Hinton 和 Bengio 共同獲得 2018 年圖靈獎的 Yann LeCun 並未連署。他將近期的安全事件定性為工程失誤，而非 AI 存在性風險的證據——這一分歧也讓「誰（如果有人）應對跨越國界的系統擁有執法權」的問題懸而未決。