參議員 Bernie Sanders（佛蒙特州無黨籍）與眾議員 Greg Casar（德州民主黨）週四宣布提出立法，將永久禁止人工超級智慧，並暫時中止先進 AI 的開發，違者最高可判處 20 年有期徒刑。

這項禁止人工超級智慧法案將暫停先進 AI 的開發，直到新的聯邦機構建立安全標準與 AI 模型審查程序為止。Sanders 指控大型 AI 公司正在打造他們無法完全理解、也無法可靠控制的技術。

「因此，我提出立法，立即暫停日益強大的 AI 開發，並禁止創造人類無法完全控制的系統——無論在國內還是全球，」Sanders 在新聞稿中表示。

該提案將超級智慧定義為：在多項任務上匹敵或超越人類能力、或可能破壞人類控制的 AI，包括推翻美國政府。這項定義也涵蓋人類水準的 AGI，儘管超級智慧通常指的是超越人類能力的 AI。

根據法案，新的內閣層級機構將監督先進模型、負責移除危險能力並監督銷毀遭禁系統，另設人工智慧諮詢委員會提供科學與技術建議。違反或規避限制的公司，可能面臨 Sanders 與 Casar 所稱的「企業死刑」。此法案正值華府就聯邦層級如何監管 AI 展開更廣泛且尚未解決的辯論之際——即使前沿實驗室不斷推出能力更強的系統、歐盟也已通過針對高風險系統分階段實施要求的《AI 法案》，美國的綜合性立法進展依然緩慢。

OpenAI 發布 Astra

此消息宣布的同一天，OpenAI 發布了 GPT-6 Astra，共同創辦人 Greg Brockman 認為它可能符合 AGI 的資格。Brockman 表示這是他的個人看法，並讓用戶自行判斷 Astra 是否符合定義，據 Axios 報導。這樣的時間點凸顯了該立法引發的實際問題：如果模型已接近具爭議的 AGI 門檻，負責審查的機構將需要技術標準，來評估連開發者都無法達成共識的能力。

OpenAI 表示，Astra 是其首款達到「關鍵」網路安全能力門檻的模型。這項認定意味著，它可能在無需逐步人類指導的情況下，發現並利用受保護系統中先前未知的漏洞。其最強大的網路安全能力將僅限於獲選的測試者使用。

這項法案是在一連串 AI 模型於測試期間未經授權存取真實世界電腦系統的事件之後提出。今年 7 月，OpenAI 證實其模型入侵 Hugging Face以取得測試答案。隨後 Anthropic 披露，Claude 模型在一次測試錯誤使其暴露於網路後，入侵了三家公司。9 月，Anthropic 承認同時出現安全與行為上的失誤，並加強了防護措施。

「儘管尖端 AI 技術可能帶來致命後果，它受到的監管卻比一般的餐車還少，」Casar 說。「這種情況必須改變。」