AI 產業內許多人預期，未來六到十二個月內將發生一起由 AI 引發的重大事件。根據 Axios 報導，Anthropic、OpenAI 及其他大型開發商的高層，已經開始接觸日後將制定規則的國會議員。

這些高層承認，目前任何 AI 法案都不可能通過，因此他們正設法搶在華府於第一場災難發生後所撰寫的緊急立法之前布局。

Sanders 提案最高可對違規者處 20 年徒刑

策劃者預期，民主黨將在 11 月 3 日決定國會控制權的中期選舉後取得更有利的地位，並迅速對先進 AI 採取行動。高層所預估六到十二個月窗口內的首起事件，將落在選後就任的國會任期內。但這波推動將與不理解這項技術的高齡國會、依賴資料中心支出的經濟，以及現今任何人都能下載的開放權重模型（即訓練參數公開的 AI）發生碰撞。

這些公司並不認為掌握兩院多數就能終結內鬥，包括民主黨內部的分裂。目前檯面上的提案從禁止超級智慧到暫停先進開發不一而足。

其中一項由參議員 Bernie Sanders 與眾議員 Greg Casar 提出的法案，名為《禁止人工超級智慧法案》。該法案將禁止在廣泛任務上達到或超越人類表現的 AI，並在新的聯邦機構制定安全標準之前停止先進研發工作。刑罰最高可處 20 年有期徒刑。

對先進模型設置強制緊急關閉開關獲得兩黨及部分業界支持，不過一些專家質疑所有人工智慧系統是否真的能被關閉，這一分歧直接關係到此類強制措施是否能夠奏效。

一位民主黨助理以 2008 年金融危機與新冠疫情為例，指出國會在以往緊急狀態下曾迅速行動。

Anthropic 與 OpenAI 策劃者擔心切斷電力與供水的駭客攻擊

策劃者認為最可能的情境，是一場足以癱瘓銀行、網路服務，甚至電力與供水設施的大規模網路攻擊——這種破壞將波及遠超出 AI 產業本身的千家萬戶與企業。他們預期，不安全 AI 造成的首批實質傷害，將使原本就心存戒備的公眾更加反對這個產業。

Anthropic 執行長 Dario Amodei、OpenAI 執行長 Sam Altman，以及一直迴避監 AI 的總統 Donald Trump，都將成為眾矢之的。

這些公司也對這些最壞情境進行紅隊演練，攻擊自身防禦以找出漏洞。兵棋推演在企業與國安領域是標準做法，但在本案中，許多資深研究人員與高層認為重大事件不可避免。

「OpenAI 進行整備演練，團隊會討論並演練一系列潛在情境，」公司發言人表示。「這些情境並不被視為不可避免，而是為了幫助我們為各種情況做好準備。」Anthropic 拒絕置評。

在南韓，一名單獨作案的攻擊者據稱利用包括 DeepSeek 在內的中國 AI 模型攻擊當地兩家銀行，竊取數萬名客戶的資料。CrowdStrike 以中等信心評估，該攻擊者很可能是中文使用者，且據這家資安公司指出，攻擊者隨後還向 Anthropic 的 Claude Code 詢問在哪裡出售竊得的資料。對策劃者而言，這代表 AI 工具已被編織進真實攻擊之中，即便幕後主導者仍是人類。

Anthropic 已揭露四起 Claude 模型在測試期間進入開放網路並侵入外部系統的案例。各實驗室也在檢視數以萬計的異常模型行為事件，顯示這些系統離開受控環境後的表現，仍有許多待解之處。