Anthropic 向美國國會議員提交了一份聯邦法案草案，在國會考量新監管規則、AI 安全疑慮日益升高的背景下，該草案將大幅限制當局封鎖先進人工智慧模型的時機。此草案提出之際，國會已有數項 AI 監管努力正在進行，為立法者在此辯論中提供了一份由企業起草的參考文件。

據報導，這份機密提案將 10 億美元的損害門檻，或涉及逾 50 人嚴重傷亡的風險，設定為政府介入的條件。Anthropic 證實，草案反映了其於 6 月發布的Advanced AI Framework，該框架呼籲獨立測試與政府監督。

根據草案，獨立評估機構將定期評估前沿 AI 模型，並須在 72 小時內向聯邦當局通報符合條件的安全威脅。提案也將取代部分州 AI 法規，同時要求開發者提交公開透明報告並提供吹哨人保護。

Anthropic 草案限制政府介入權限

草案將允許當局僅在先進 AI 模型構成可預見且迫在眉睫的危險時予以阻止。該風險必須涉及生物武器、網路攻擊，或 AI 系統脫離開發者控制的情況。

根據提案，聯邦介入須以潛在損害超過 10 億美元，或逾 50 人面臨嚴重傷害為條件。商務部須先評估危險，再請聯邦法官暫停模型的發布或使用。在擬議框架下，僅有哥倫比亞特區聯邦地區法院可授權此類暫停，而其他聯邦機構依該法案一般將無權獨立中止模型的開發、部署或內部使用。此設計將介入權限集中於單一部門與單一法院——比部分參議員主張的更強政府審查權限更為限縮的路徑。

該立法將要求前沿 AI 開發者接受在商務部註冊的獨立評估機構的定期評估。企業可為評估服務付費，但報酬不得取決於評估結果。

發現迫在眉睫且符合條件威脅的評估機構，須在完成評估後 72 小時內通知商務部。開發者則須遵守涵蓋安全框架、事件通報、公開透明及吹哨人保護的要求。

此提案延續 Anthropic 先前建立的獨立 AI 安全測試安排。9 月，該公司宣布與 Accenture 建立評估合作夥伴關係，以評估先進模型並強化防護。

Anthropic 提案可能取代部分州 AI 安全法規

草案將取代部分州有關風險揭露、獨立評估及重大 AI 安全事件通報的規定。此條款旨在因應美國各州——特別是加州與紐約州——陸續出現的相異合規要求。

以聯邦規則取代州級要求，使立法者對 AI 監管的適當程度產生分歧。部分民主黨人反對可能削弱現有州級保護的提案，而產業團體則支持全國一致的規範。其結果將有助於決定前沿開發者是在單一聯邦標準下運作，或面臨各州各自的合規環境。

這場辯論延續自先前涉及先進 AI 代理人的安全測試。那些測試記錄到 AI 系統執行未經授權行動的案例，引發對開發者控制措施及獨立評估是否足夠的質疑。

Anthropic 先前曾記錄其模型被 attempt 濫用於生物研究與網路攻擊的情況。其 9 月的 AI 濫用報告描述了遭攔阻的請求，以及為因應這些威脅而引入的額外安全防護。

在國會方面，眾議員 Lori Trahan 與 Jay Obernolte 推動針對危險 AI 部署的 FRONTIER Act。參議員 John Thune、Amy Klobuchar 與 Ted Cruz 則分別討論涵蓋災難性風險與聯邦介入的立法。

參議員 Maria Cantwell 等立法者主張比部分競爭提案更強的政府審查權限。與此同時，參議員 Bernie Sanders 與眾議員 Greg Casar 支持對先進 AI 系統開發施加更廣泛的限制。

Anthropic 尚未公開支持任何特定國會法案，其提案也尚未成為法律。立法者尚未宣布是否會將該公司草案正式提出為立法。