一名研究員從全球最知名的人工智慧公司之一辭職，隨後警告這項技術可能在十年內消滅人類，這似乎加速了國會對 AI 安全問題的行動。

Jacob Coxon 於 September 8, 2026 從 Anthropic 辭職。在多年的學術論文與會議討論僅帶來有限行動後，此舉為具約束力的聯邦規則帶來了立法動能。此後幾天內，已有超過 20 名國會議員公開呼籲加強監管。與此同時，一個由兩黨參議員組成的團體正推動立法，將對強大 AI 模型的開發商施加法律上的「注意義務」。該提案將關鍵安全措施從企業自願承諾轉變為受法律支持的義務。

法案及其支持者

Amy Klobuchar、John Thune 和 Ted Cruz 參議員正主導這項工作。他們提出的立法將 AI 公司作出的自願安全承諾轉變為可執行的法律要求。

法案的核心條款將要求先進 AI 系統在發布前接受安全測試。法案也將要求開發商接受獨立第三方審計，並提交標準化報告。此外，該提案將賦予政府介入並阻止被認定為具有危險性的 AI 模型發布的權力。這些條款將使測試、外部審查與資訊披露成為發布最強大系統的核心條件。

根據擬議規則，開發前沿 AI 模型的公司將負有正式的注意義務。如果其系統造成傷害，且公司未採取合理預防措施，可能面臨法律後果。

OpenAI 已公開支持強制性的國家安全標準與嚴格的測試規程。鑑於該公司將直接受到擬議要求的約束，這一立場格外引人注目。

推動辯論的疑慮

Anthropic 的另一名研究員 Evan Hubinger 公開估計，未來十年內發生由 AI 驅動的滅絕事件的機率高於 10%。

Anthropic 也發布了一份威脅報告，對其部分較新 AI 模型的安全性提出質疑，尤其是這些模型可能協助開發生物武器的潛在風險。

立法障礙

數名議員警告，面對一項演變速度快於國會安排聽證會能力的技術，制定技術上健全的規則將十分困難。November midterm elections 又增加了另一項複雜因素。一些議員在競選連任期間，可能不願對技術性複雜的監管框架投票。

因此，辯論的下一階段將聚焦於議員能否在選舉時程限制行動之前，制定出可行的測試、審計、報告與介入標準。在這些細節獲得解決之前，該提案仍是建立可執行聯邦安全要求的努力，而不是已運作的監管框架。

來源：CryptoBriefing