國會花了近十年時間就人工智慧舉行聽證會，卻幾乎未通過任何使其更安全的法案。如今，紐約市議會想探討的是：一座城市能否完成華盛頓未能完成的事情。

上週五，市議會議長朱莉·梅寧公布了一系列法案，要求在市內銷售的AI系統須通過外部驗證並配備緊急停止開關，獎勵舉報違規行為的檢舉人，並允許紐約市民在遭越獄的工具造成傷害時起訴AI公司。這項立法將於10月5日在全體51名議員出席的全委會聽證會上審議。與陷入僵局的聯邦行動不同，議會主張直接管轄權：這些系統背後的公司在紐約銷售產品，並在當地設有部分規模最大的辦公室。

「我們顯然完全不希望扼殺創新。我們要確保紐約維持世界AI之都的地位，但伴隨而來的是責任，」梅寧接受《Fortune》訪問時表示。「我完全不相信這兩個想法互相排斥。事實上，我認為它們相輔相成。」

「你要成為創新之都，也要成為聰明、合理的監管與配套防護措施之都，因為你要讓人們對產品本身有信心，」她說。

備受矚目的聽證會

議會已邀請Dario Amodei、Sam Altman、Sundar Pichai、Elon Musk和Mark Zuckerberg——分別是Anthropic、OpenAI、Google、SpaceXAI和Meta的執行長——出席作證。10月5日的聽證會將採全委會形式，市議會自2022年以來從未召開過此類會議。

知情人士告訴《Fortune》，五位獲邀的高層執行長預計都不會出席，但市議會保留傳喚他們的權利。各公司未立即回應《Fortune》的置詢。這五位執行長是否出席——或議會是否採取行動強制他們作證——將是檢驗這套法案遭遇多大阻力的第一個明顯指標。

儘管如此，這並不排除由其他高層代表這些公司出席，梅寧表示，此舉的目的是讓公眾對這些機構建立信任。「這類監管實際上能提升人們對這些AI技術的信心，」她說。

城市出手

對身兼監管律師與從政者的梅寧而言，這項立法的意圖不僅限於市界之內。「作為一名監管律師，以及曾擔任消費者與勞工保護局局長的人，我強烈認為紐約市絕對可以扮演領頭角色，」她說。

她將這些法案描述為她在哥倫比亞大學任教課程「當城市率先出手」的案例研究，該課程探討「當聯邦政府放鬆監管或未能行動時」，城市應該怎麼做。

「這或許是其中最典型的例子之一：AI這種產品幾乎不受監管，」梅寧說。「在紐約市，我們對各式各樣的產品和服務進行監管，從理髮店到美甲沙龍無所不包，然而AI卻處於幾乎沒有監管的狀態。」

聯邦層面的空白紀錄

梅寧所對抗的聯邦紀錄漫長且大多空白。第一部聯邦AI法案《FUTURE of AI Act》於2017年提出，隨後不了了之。2023年，OpenAI執行長Sam Altman呼籲參議院監管他的產業；時任多數黨領袖Chuck Schumer以九場閉門論壇回應，產出了一份路線圖，卻沒有法案。到了2025年，Altman告訴參議員，要求政府批准AI發布將是一場災難。

當華盛頓終於採取行動時，它做的是阻止其他人行動。參議院於2025年7月以99票對1票否決了Sen. Ted Cruz提出的十年州AI法律禁令，隨後川普總統成立司法部工作小組，就各州的AI法律提起訴訟。第一個目標科羅拉多州在訴訟提出五週後，自行大幅刪減了該州法律。

即使在本月Anthropic研究員Jacob Coxon辭職並警告AI公司正在拿人命當賭注之後，聯邦的回應仍僅限於信函和調查。最新的努力來自Cruz、Sen. Amy Klobuchar與多數黨領袖John Thune提出的兩黨安全法案，該法案很可能凌駕於大多數州法律之上，包括紐約現行的《RAISE Act》。這場優先適用之爭最終如何解決，將決定市議會這套法案有多少能夠生效。

OpenAI在7月的一篇貼文中主張，各州可以通過彼此相似的立法來填補空白，取代聯邦法律。然而，這些公司扎根的地方是紐約市，而非目前大多數正在制定AI法律的州。Google在市內擁有超過14,000名員工，Meta在50 Hudson Yards租用120萬平方英尺的空間。Anthropic今年夏天在330 Hudson Street租下一整棟16層大樓，預計到年底在市內員工將超過1,000人，而OpenAI則於2024年在Puck Building租下90,000平方英尺。

「這些公司在紐約設有辦公室。產品在紐約銷售，我們認為這屬於我們可以監範疇，」梅寧說。

法案的具體內容

其中範圍最廣的法案將禁止任何企業在市內銷售或部署AI系統，除非外部驗證機構已依據市網路指揮辦公室制定的標準，對其資料品質、偏見、隱私和安全進行審查。每個系統還必須配備緊急停止開關——即能夠將其關閉的人工覆寫機制。由於這項要求適用於任何在市內銷售或部署AI的企業，其影響範圍將遠超主要實驗室。

「這不是一個應該自我監管的行業，」梅寧說。「目前的問題在於，這基本上就是現行的標準。」每項違規將處以25,000美元罰款，梅寧表示，這意味著「如果出現一大群AI代理，罰款將按每個代理計算」。

另一項法案將給予檢舉人從違法的AI公司追回罰款中的一部分分潤，議會認為這將是全美首見的條款。配套措施將保護舉報AI威脅公共安全的市府員工和承包商。

第三項法案將允許民眾就第三方繞過安全控制所造成的傷害起訴AI公司，前提是傷害可以預見，且公司缺乏合理的安全保障措施。法院尚未確定《通訊規範法》第230條——保護平台免於為用戶內容承擔責任的聯邦法律——是否涵蓋AI生成的輸出，因此該法案也可能考驗聯邦法律。

其他法案將要求市府承包商在24小時內通報AI安全事件、禁止虛假或誤導性的安全宣稱、依據電子隱私資訊中心的《People-First Chatbot Bill》為聊天機器人制定隱私規則，並要求市府為AI驅動的攻擊制定應對計畫。議會表示還會推出更多法案，包括禁止欺騙性深偽技術，以及研究演算法工具如何改變工作職責。10月5日的聽證會將是這項行動能推進到什麼程度的第一個公開檢驗點。

「我們的法案涵蓋處理安全問題的各種不同方式，」梅寧說。「我們希望繼續作為創新樞紐。我不相信監管會以任何方式阻礙這一點。」

本文原刊於 Fortune。