美国国会在近十年间就人工智能举行了多场听证会，却几乎没有通过任何让它更安全的立法。如今，纽约市议会想弄清楚：一座城市能否做到华盛顿未能做到的事情。

上周五，市议会议长朱莉·梅宁公布了一揽子法案，要求在市内销售的AI系统通过第三方验证并配备紧急停机开关，向举报违规行为的吹哨人支付奖励，并允许纽约居民在越狱工具造成损害时起诉AI公司。相关立法将于10月5日在由全体51名议员出席的全体委员会听证会上审议。与陷入停滞的联邦努力不同，市议会主张直接管辖权：这些系统背后的公司在纽约销售产品，并在当地设有其规模最大的办公场所。

"我们显然绝无意压制创新。我们希望确保纽约保住世界AI之都的地位，但与此同时责任也随之而来，"梅宁对《财富》表示。"我完全不认为这两个目标是互斥的。事实上，我认为它们相辅相成。"

"你想成为创新之都，也想成为明智、合理监管及配套防护措施之都，因为你希望人们对产品本身抱有信心，"她说。

一场备受瞩目的听证会

市议会已邀请Anthropic、OpenAI、Google、SpaceXAI和Meta的首席执行官——达里奥·阿莫代伊、萨姆·奥尔特曼、桑达尔·皮查伊、埃隆·马斯克和马克·扎克伯格——出席作证。10月5日的听证会将是全体委员会形式，市议会自2022年以来从未召开过此类会议。

知情人士告诉《财富》，五位受邀高管预计均不会出席，但市议会保留传唤他们的权利。这些公司未立即回应《财富》的置评请求。五人是否有人出席——或市议会是否采取行动强制其作证——将成为该法案遭遇多大阻力的首个直观检验。

尽管如此，这并不排除其他高管代表这些公司出席的可能。梅宁表示，其目标是让公众对这些机构建立信任。"这类监管实际上会增强人们对这些AI技术的信心，"她说。

城市带头行动

对于从监管律师转型的政治人物梅宁而言，这项立法不会仅局限于市界之内。"作为一名监管律师，以及曾担任消费者和劳动者保护局局长的经历，我深切感到纽约市完全可以发挥带头作用，"她说。

她将这些法案描述为她在哥伦比亚大学所授课程"城市带头行动"中的一个案例研究，该课程探讨的是"当联邦政府去监管或不作为时"，城市应该怎么做。

"这或许是其中最典型的案例之一：AI这一产品几乎处于无监管状态，"梅宁说。"在纽约市，我们对各类产品和服务都进行监管，从理发店到美甲沙龙无所不包，然而AI却监管。"

稀少的联邦立法记录

梅宁所对抗的联邦立法记录漫长而近乎空白。首部联邦AI法案《AI未来法案》于2017年提出，此后不了了之。2023年，OpenAI首席执行官萨姆·奥尔特曼请求参议院监管其所在行业；时任多数党领袖查克·舒默的回应是九场闭门论坛，产出了路线图，却未产出法案。到2025年，奥尔特曼已转而告诉参议员，要求政府批准AI发布将是一场灾难。

当华盛顿终于采取行动时，它阻止的是别人行动。2025年7月，参议院以99比1的投票删除了特德·克鲁兹参议员提出的对州级AI法律的十年禁令，随后特朗普总统成立司法部工作组，就各州AI法律提起诉讼。其首个目标科罗拉多州在诉讼提起五周后大幅削弱了本州法律。

即使在Anthropic研究员雅各布·考克森本月辞职并警告AI公司"在与人类生命赌博"之后，联邦层面的回应仍停留在信函和调查。最新的努力来自克鲁兹、艾米·克洛布彻参议员和多数党领袖约翰·图恩共同提出的两党安全法案，该法案很可能覆盖包括纽约现行《RAISE法案》在内的大部分州级法律。这场优先权之争的最终结果，将决定市议会的法案有多少能够生效。

OpenAI在7月的一篇发文中主张，各州可以通过制定相互呼应的法律来填补空白，以替代联邦立法。然而，这些公司扎根的地方恰恰是纽约市，而非眼下正在起草AI法律的大多数州。Google在该市拥有超过14,000名员工，Meta在哈德逊城市广场50号租赁了120万平方英尺的办公空间。Anthropic今年夏天整栋租下了哈德逊街330号一栋16层大楼，预计到年底在该市拥有超过1,000名员工；OpenAI则于2024年入驻Puck大楼，租下90,000平方英尺。

"这些公司在纽约设有办公室，产品也在纽约销售，我们认为这属于我们可以监管的范畴，"梅宁说。

这些法案的具体内容

其中覆盖面最广的法案将禁止任何企业在市内销售或部署AI系统，除非第三方验证机构已按照市网络司令部制定的标准，对其数据质量、偏见、隐私和安全进行检查。每个系统还必须配备紧急停机开关——即可将其关闭的人工干预机制。由于该要求适用于任何在市内销售或部署AI的企业，其影响将远远超出各大AI实验室。

"这不是一个应当自我监管的行业，"梅宁说。"眼下的问题在于，这基本上就是现状的标准。"每次违规将处以25,000美元罚款，梅宁表示这意味着"如果出现一群智能体，罚款将按每个智能体分别计算"。

另一项法案将让吹哨人分得从违法AI公司追回的罚款份额，市议会认为这将是全美首例此类条款。一项配套措施将保护报告AI公共安全威胁的市雇员和承包商。

第三项法案将允许人们就第三方绕过安全控制措施所造成的损害起诉AI公司，前提是损害可预见且公司缺乏合理的安全保障。法院尚未裁定保护平台免于为用户内容承担责任的联邦法律第230条是否涵盖AI生成内容，因此该法案成为对联邦法律的检验。

其他法案将要求市承包商在24小时内报告AI安全事件，禁止虚假或误导性的安全宣传，参照电子隐私信息中心的"以人为本聊天机器人法案"为聊天机器人制定隐私规则，并要求市政府为其系统可能遭受的AI驱动攻击制定预案。市议会表示还将推出更多法案，包括禁止欺骗性深度伪造，以及研究算法工具如何改变工作职责。10月5日的听证会将成为检验这项工作延伸范围的第一个公开节点。

"我们的法案涵盖了应对安全问题的各种不同方式，"梅宁说。"我们希望继续作为创新中心。至于监管会以任何方式阻碍创新的说法，我不认同。"

本文最初刊载于 Fortune。