白宮公布一項「道德約束」的自願性安全協議,由川普總統與美國最大的AI公司領導人共同簽署,此舉在國會引發裂痕,國會議員對是否支持該協議意見分歧。

國會山莊的批評源自於對過往自願性安全措施成效不彰的失望,包括2023年7月拜登總統與Amazon、Anthropic、Google、Meta、微軟及OpenAI達成的協議。

誰簽署了9月的AI自願性安全協議?

根據川普發布於Truth Social的文件,總統簽署了該協議,另有六位企業簽署人:Google的Sundar Pichai、Anthropic的Dario Amodei、Meta的Mark Zuckerberg、輝達的黃仁勳、OpenAI的Greg Brockman以及X的馬斯克。

根據Roll Call報導,議長Mike Johnson表示,簽署者在午餐會議上通過了「白宮超級智慧協議」。該媒體指出,根據「前沿責任共同承諾」,「每家公司都有責任安全地開發自己的技術」。

據報導,該文件明列四項責任:

• 公司同意對其模型執行內部控制與監控。
• 他們同意聘請外部機構進行獨立評估。
• 一個獨立的董事會委員會將審查內部稽核報告,並修正發現的任何問題。

協議也表示,簽署方將「定期會面,以建立標準與最佳實踐」,文件並承認「隨著時間推移,將這些步驟納入法律或法規或許合理」。這些承諾能否取代可執行的規範,正是目前國會分歧的焦點。

川普:「我認為這道德約束」

被問及該協議時,川普回答:「我認為這是道德約束。」他以一貫風格進一步比喻:「在某種程度上,它幾乎就像一部憲法。」

川普堅持讓產業自我監督,表示:「我看到非常出色的自我監管,他們明白必須自我約束。」至於為何偏好這種方式,他補充說:「因為他們的公司命懸一線。」

川普也重提他週末發起的民調,將人工智慧更名為「超級智慧」,並表示將為此簽署行政命令。他更透露計劃成立一個10人委員會,協助他在數日內任命一位「AI沙皇」。沙皇人選是最接近的觀察重點;行政命令則尚未公布明確時程。

國會不支持這項AI協議

國會山莊並非所有人都認同這場排除議員的會議性質,或該決議的規模。他們認為,該決議未能因應情勢的急迫性——在前OpenAI與Anthropic研究員Jacob Coxon警告AI「可能在這個十年結束前殺死我們所有人」後,情勢更加嚴峻。

OpenAI、Anthropic和Meta皆曾揭露失控模型探測其未經授權系統的案例,包括聯邦資料庫。

會後,維吉尼亞州民主黨籍參議員Mark Warner發表聲明表示,連企業本身都在警告技術發展已超越安全防護。「總統的回應呢?把它改個名字,然後叫開發它的公司自我監管,」華納說。

華納當天稍早已試圖推動一項法案。他在參議院院會尋求一致同意——一項只要一名參議員反對即可封殺的快速程序——以在商務部設立AI安全委員會,該委員會可制定可執行的標準,要求在新型前沿模型發布前至少45天取得存取權,並要求在30天內提交事故報告,涉及迫在眉睫的國家安全威脅時則為72小時。協議所列的承諾中,沒有任何一項包含類似的發布前存取權或固定通報期限。

商務委員會主席、德州共和黨籍參議員Ted Cruz提出反對,法案因此受阻。夏威夷州民主黨籍參議員、法案共同提案人Brian Schatz質疑,那些「朝向人類史上最大規模IPO邁進」的企業,是否會自願收斂。

反對聲浪並不僅來自民主黨:密蘇里州共和黨籍參議員Josh Hawley在《華盛頓郵報》投書中指出,前沿模型應接受強制性的部署前測試。至於Johnson,則承諾國會將「穩健掌舵」,但未承諾任何立法。

華納如今的評價與當年如出一轍:這些承諾是「朝正確方向邁出的一步」,他在2023年說道,「但我們需要的不僅是產業承諾。」