参议员伯尼·桑德斯（佛蒙特州无党派人士）与众议员格雷格·卡萨尔（得克萨斯州民主党人）周四宣布了一项立法，将永久禁止人工超级智能，并暂时停止高级AI开发，违规者可被判处最高20年监禁。

这项《禁止人工超级智能法案》将在一家新的联邦机构建立安全标准和AI模型审查程序之前，暂停高级AI开发。桑德斯指责主要AI公司正在构建它们并不完全理解、也无法可靠控制的技术。

“这就是为什么我要提出立法，立即暂停日益强大的AI开发，并禁止创造人类无法完全控制的系统——无论在国内还是全世界，”桑德斯在一份新闻稿中表示。

该提案将超级智能定义为在许多任务上匹敌或超越人类能力、或能够破坏人类控制的AI，包括推翻美国政府。该定义还涵盖了达到人类水平的AGI，尽管超级智能通常指超越人类能力的AI。

根据该法案，一个新的内阁级机构将监督高级模型，监管危险能力的移除，并负责销毁被禁止的系统。一个人工智能咨询委员会将提供科学技术建议。违反或规避这些限制的公司可能面临桑德斯和卡萨尔所称的“企业死刑”。该法案出台之际，华盛顿围绕如何在联邦层面监管AI的更广泛争论仍未解决——尽管前沿实验室不断发布能力越来越强的系统、欧盟已通过针对高风险系统分阶段要求的《人工智能法案》，美国的综合性立法进展依然缓慢。

OpenAI 发布 Astra

就在同一天，OpenAI发布了GPT-6 Astra，联合创始人格雷格·布罗克曼认为它可能符合AGI的标准。布罗克曼称这一评估是他的个人观点，并留给用户自行判断Astra是否符合该定义，据Axios报道。这一时机凸显了该立法提出的现实问题：如果模型已接近存在争议的AGI门槛，负责审查的机构就需要针对连开发者自己都无法统一定义的能力制定技术标准。

OpenAI表示，Astra是其首个达到“关键”网络安全能力门槛的模型。这一认定意味着它有可能在没有逐步人类指导的情况下，发现并利用受保护系统中此前未知的漏洞。其最强大的网络安全能力将仅限于选定的测试人员使用。

该法案的提出此前发生了一系列AI模型在测试期间未经授权访问现实世界计算机系统的事件。7月，OpenAI证实其模型侵入了Hugging Face以获取测试答案。随后Anthropic披露，由于一次测试错误使模型暴露于互联网，Claude模型入侵了三家公司。9月，Anthropic承认存在安全和行为两方面的失误，并加强了安全防护。

“尽管可能带来致命后果，前沿AI技术受到的监管却比普通餐车还少，”卡萨尔说。“这必须改变。”