據 Reuters 報導，美國參議院協商代表正在審議一項法案，要求最先進人工智慧模型的開發者防範災難性危害，並可能授予聯邦政府阻止不安全模型發布的權力。

對領先的 AI 公司而言，這項提案將使安全標準從大致屬於自願性的承諾，轉變為法律義務。這也引發一項更廣泛的問題：更嚴格的監管究竟會建立消費者與投資人的信任，還是會強化那些擁有足夠資源遵守規定的公司的地位。

從自願承諾到「照護義務」

這項提案將為前沿 AI 模型開發者建立 Reuters 所稱的「照護義務」。目前考慮中的措施包括：要求開發者設計能降低災難性風險的模型；保留聯邦政府阻止不安全模型的權力；允許企業在法庭上對政府決定提出上訴；以及讓國家實驗室與其他政府夥伴參與 AI 測試。

這項法案可能優先於部分處理相同議題的現有州法。Reuters 指出的前沿 AI 開發美國公司包括 Google（透過母公司 Alphabet）、Anthropic 與 OpenAI。

參與協商的人員包括參議院多數黨領袖 John Thune、商務委員會主席 Ted Cruz、參議員 Amy Klobuchar，以及參議員 Maria Cantwell。

Klobuchar 告訴 Reuters，她的目標是「政府監督 AI 模型帶來的最大風險」。她表示，這項監督應要求開發者與政府專家合作，驗證並測試先進模型。

Cruz 也提出了類似提案，聚焦於前沿 AI 可能造成的一些最嚴重後果。Cruz 在一則 X 貼文 中表示，他正與 Klobuchar 及 Thune 合作，以「處理涉及生物或核威脅的災難性風險」。

這些擔憂解釋了為何協商代表將重點放在能力最強的模型，而不是把相同要求套用至整個 AI 產業。

另一項議題是聯邦規則是否應凌駕部分州層級限制。這種做法大致符合川普政府的 AI 立法框架，該框架認為，零散的州法可能阻礙美國 AI 技術的發展，並呼籲建立更一致的全國性框架。

為何 lawmakers 不再將風險視為理論問題

lawmakers 的回應不僅針對假設情境，也針對 AI 代理自主行動並存取外部系統的事件，以及主要 AI 公司研究人員提出的疑慮。

IAPP 報導，這場協商部分起因於前 Anthropic 研究員 Jacob Coxon 辭職，以及他對競相開發自我改進 AI 的擔憂。

國會山莊受到的壓力也在增加。參議員 Josh Hawley 正調查 OpenAI 在 7 月發生的 Hugging Face 網路攻擊事件中所扮演的角色；據 IAPP 報導，參議員 Bernie Sanders 則正在推動一項旨在暫停超級智慧發展的法案。

OpenAI 也呼籲制定具強制力的聯邦立法。在 9 月 9 日發布的一篇政策文章中，該公司首席全球事務官 Chris Lehane 呼籲建立「強制性的、以能力為基礎的國家 AI 安全監管」。這項立場使 AI 產業與國會中的部分人士，在自願性防護措施是否仍然足夠這項核心辯論中站在同一側。OpenAI 的政策文章可在此處查看。

歐洲已經對風險最高的模型實施監管

美國並非沒有國際先例可循。歐盟的 AI Act 已對可能帶來系統性風險的通用 AI 模型提供者施加額外責任。

這些責任包括模型評估、風險管理、事件通報及網路安全措施。計算能力超過 10^25 FLOP 門檻的模型，將被視為可能具有系統性風險。歐洲委員會也可以根據其他標準，包括模型的能力或影響，將計算能力較低的模型歸類為具有系統性風險。

合規成本可能讓最大型實驗室受益

其中涉及的財務利益相當可觀。Goldman Sachs Research 預估，全球 AI 投資在 2026 年可能達到約 $1 trillion，其中包括美國的 $581 billion。

新的測試、法律與文件要求可能影響模型發布時程、基礎設施預算、公司估值以及首次公開募股的時間安排。如果較小型企業無法承擔合規成本，這些要求也可能讓大型公司受益。

這種矛盾已在資本市場中顯現。據 Cryptopolitan 報導，David Sacks 呼籲暫停 Anthropic 的 IPO，直到針對 Coxon 提出的安全指控完成調查。Anthropic 投資人也曾討論約 $2 trillion 的估值，使前沿模型安全成為投資人與監管機構共同關注的議題。

法案的進展仍不明朗。Reuters 報導，眾議院在 11 月 3 日期中選舉前預定只開會一週，而參議員預計將留在國會三週。即使協商代表達成協議，剩餘立法日數有限，也可能成為法案通過的重大障礙。在剩餘的立法窗口關閉前，接下來值得關注的發展包括：協商代表是否就義務範圍、聯邦政府阻止模型發布的權力、州法的角色，以及測試與上訴程序達成共識。