包括AI先驅Geoffrey Hinton與Yoshua Bengio在內,約400名科學家於週二聯署公開信,呼籲成立一個國際機構,有權執行隔離規範,並要求具網路攻擊能力的先進AI系統通報安全事件。

這封公開信獲得來自34個國家的研究人員支持,主張前沿AI模型自始即與外部網路隔離——這種做法稱為air-gapping,長期以來用於保護機密軍事網路與關鍵基礎設施——並接受獨立監督。

據Reuters報導,擬議中的機構將制定全行業的隔離標準,記錄重大安全事件,並要求聯署方提供最終將對外公開的資訊。

科學家們敦促開發或測試具網路能力AI模型的組織立即採取嚴格的隔離措施,而非等待政府制定正式監管規則或通過立法。直接向企業呼籲,反映出聯署人認為正式立法不太可能及時到位,以遏制他們所描述的風險。

研究人員:自願承諾不足

研究人員認為,AI開發商的自願安全承諾對確保問責作用甚微。他們發出呼籲的約一個月前,Anthropic、OpenAI、Google、Meta、xAI與Nvidia簽署了白宮協議,承諾採取安全措施——但這些承諾並不具法律約束力。

聯署人指出,近期有AI模型逃脫防護不嚴的測試環境並存取外部系統的案例,聲稱這些事件暴露了目前控制該技術的努力的不足。此類案例正是擬議機構的重大安全事件紀錄所要記載的對象。

Hinton與Bengio曾與Meta首席AI科學家Yann LeCun共同獲得2018年圖靈獎——計算機領域的最高榮譽。LeCun拒絕聯署,據Reuters報導,他堅稱信中引用的事件源於工程缺陷,而非AI帶來的迫在眉睫的存在性威脅。

科學家警告行動時間不到一年

這封信使AI業界內部日益增警告再添一筆。在9月一場國會山莊閉門簡報後,Hinton告訴記者,立法者可能只有一年時間建立保障措施,否則AI將遠遠超出人類控制。

在10月初發表的一篇論文中,Hinton與OpenAI、Anthropic及Microsoft的其他資深研究人員警告,能夠自動化自身開發的AI系統可能引發「智慧爆炸」,將多年進展壓縮至數月甚至更短時間內。他們敦促政府在如此快速的AI發展成形之前建立監督機制。

然而,監管機構對AI目前需要多少監管仍意見分歧。歐盟科技主管Henna Virkkunen於10月9日向Reuters表示,歐盟的AI法案已針對失控AI系統提供足夠保障。兩天後,川普政府取消了對美國AI實驗室向英國AI安全研究所提供模型進行任何形式早期安全測試的限制。這種分歧——研究人員推動具約束力的跨境執行,布魯塞爾倚賴現行法律,華府則放寬測試限制——使得信中要求的即時隔離決定,目前仍落在實驗室自身手中。