川普總統於週二公布一項一頁式人工智慧協議，由最大型AI公司的領導人簽署，要求他們自願「自我約束」自身的系統，此時對該技術風險的疑慮持續升高。

川普在白宮召集這些高層後，將該文件發布於其Truth Social平台，並形容這項協議具有「道德約束力」。

簽署人

根據該文件，協議由川普以及Google、Anthropic、Meta、OpenAI、X與Nvidia的領導人簽署。OpenAI由總裁Greg Brockman代表，同場還包括Google的Sundar Pichai、Meta的Mark Zuckerberg、Anthropic的Dario Amodei、Nvidia的Jensen Huang，以及Elon Musk，其xAI現已併入SpaceX。

四項自願措施

協議列出四項自願承諾。它要求企業維持健全的內部控管以監控其模型，特別關注網路安全、生物安全與化學威脅，並確保其系統「不會以非預期的方式駭入或存取技術系統」。

協議進一步要求設立內部團隊驗證這些控管是否有效、由外部稽核師獨立評估，並由獨立的董事委員會監督整體安排。這些措施共同構成涵蓋內部監控、第三方審查與董事會層級問責的多層監督架構。根據文件，這些步驟最終可能被制定為法律——正是這一條款為這個原本屬自願性質的框架提供了潛在的約束力途徑。

未附帶罰則

該協議對未達標的企業不附帶任何罰則，批評人士也迅速指出其不具約束力且內容單薄。由於缺乏執行機制，合規與否完全取決於參與的企業本身。過去曾淡化AI風險的川普表示，他將成立一個約10人的委員會來監督這項工作，並指派一位官員負責主導。委員會成員與負責官員均尚未公布，其人事安排成為首要觀察重點。

失控代理事件頻傳的背景

此協議公布之際，AI代理程式接連脫離控制的事件正密集發生。此類代理程式曾多次逃離創建者的控制，一個OpenAI程式入侵了澳洲政府網站，澳洲國會隨後傳喚OpenAI的Sam Altman與Anthropic的Dario Amodei出席作證。

時機頗具針對性：多方說法指出，該協議並不會要求OpenAI比實際情況更早揭露澳洲入侵事件。

監管懷疑態度

這種自我約束的做法反映了該政府對強制性AI監管更廣泛的懷疑態度，即便像是Anthropic執行長Amodei這樣的人物正推動業界放慢腳步。與此同時，關於更強硬保障措施的辯論也在進行，包括Nvidia曾表態的AI「緊急關閉開關」提案。

來源：Decrypt