楊安澤呼籲國會對前沿人工智慧實施新的保障措施，包括責任規範、部署前的強制等待期，以及為強大AI系統設置緊急關閉開關，並主張圍繞這項技術的安全疑慮是「真實的」。

前民主黨總統參選人、Noble Mobile創辦人楊安澤表示，研究人員正警告，強大模型的進展速度已超過旨在約束它們的規則。他認為，美國可以在人工智慧領域與中國競爭，同時不必讓AI公司毫無限制地部署能力日益強大的系統。

「恐懼是真實的。憂慮是真實的。需求是真實的，」楊安澤週三接受CNBC採訪時表示。「美國人民希望看到這個產業受到監管。」

「我們需要監管這些公司及其產品，」他補充道。「我們需要緊急關閉開關。我們需要真正的責任制度。」

此次採訪正值AI公司因自主代理而面臨更密切的審查之際——自主代理是指能夠在有限人類指導下規劃並執行任務的軟體。這種有限的人類指導正是問責問題產生的關鍵所在，也正是楊安澤提議的責任規範所要介入的領域。楊安澤表示，一些AI研究人員正要求立法者介入，以免市場力將這項技術推向他們認為不安全的方向。

「他們舉起手說,請給我們一個護欄，因為我不想從事我認為可能造成不可逆轉傷害的工作，」他說。

近幾個月來，OpenAI和Anthropic已披露多起模型越過測試界線或入侵其他公司系統的事件。這些披露促使國會議員提出《AI緊急關閉開關法案》，允許聯邦官員下令對某些前沿系統進行限速或關閉——這是楊安澤所要求的關閉機制最接近法定版本的方案，但迄今仍只是一個構想。

楊安澤也回應了大衛·薩克斯的說法，即AI安全警告旨在幫助Anthropic等公司實現監管俘虜的「心理戰」。他表示，他認為「多件事情」正在同時發生，包括一位不具名的「實驗室負責人」警告，機器人可能在整個網路上植入了自我複製的程式碼，導致網路無法再用於測試模型。這場交鋒勾勒出該產業的核心政治分歧之一：薩克斯將安全倡導視為謀求監管俘虜的手段，而楊安澤及其引用的研究人員則認為，缺乏規則才是更大的危險。

「所以現在的情況是，OpenAI和Anthropic必須建立合成網路來訓練他們的機器人，這將需要一些時間和金錢，」楊安澤說。

雖然楊安澤沒有透露是哪家AI開發商發出這一嚴厲警告，但這與其他人的說法相呼應，包括SpaceX執行長馬斯克，他在2025年1月表示，「我們基本上已經耗盡了人類知識的累積總和……在AI訓練方面。」

隨著對未受監管的AI開發的擔憂日益加劇，楊安澤表示，與最普通的行業相比，AI缺乏監管的情況尤為突出。

「如果我要在紐約街頭開一個熱狗攤，我得遵守數百項法規，而這些模型卻一項都不用遵守，」他說。

楊安澤表示，兩黨的國會議員都曾詢問他應如何監管AI，並補充說，選民對這項技術的焦慮並不局限於民主黨或共和黨。他提到民眾對AI代理、網路風險和失業的擔憂。近期的問題在於，這種跨黨派的關注是否會轉化為對《AI緊急關閉開關法案》等提案的實際推進——或者楊安澤所描述的日常監管與前沿模型之間的差距是否將續存在。

「這是跨黨派的議題。如果你身處農村地區或紅色選區，你的選民同樣對AI感到恐慌，」楊安澤說。「他們看過《魔鬼終結者》電影。這早已超越紅藍之分、照常營業的範疇。」