纽约市正准备将AI监管转变为一项悬赏制度。市议长朱莉·梅宁于9月25日提出了一揽子人工智能监管法案，其中包括一项条款：向吹哨人支付从违规AI企业处以罚款中的一定比例作为奖励。

法案一揽子计划包含哪些内容

尽管吹哨人激励措施最受关注，但它属于一项更为广泛的立法行动。根据这些法案，不合规的AI系统将须配备强制性的人工“急停开关”，即当算法出现问题时，必须能够由真人将其关闭。第三方安全审计也将成为强制性要求，每次违规的罚款最高可达25,000美元。由于吹哨人所获报酬将是实际收缴罚款的一部分，这一处罚上限实际上决定了潜在奖励金额的上限。

一揽子法案中的另一项法案将扩大受AI伤害个人的法律权利，为人们直接起诉开发商敞开大门。

整套法案将于10月5日在市议会听证会上进行辩论，预计全体51名议会议员都将参与。知名AI公司的首席执行官已受邀出席。

吹哨人举报渠道已经开启

市议会的这一举措并非无源之水。就在8天前的9月17日，纽约州总检察长莱蒂西亚·詹姆斯为AI从业者上线了专门的吹哨人举报门户。该门户为AI公司员工提供了一个正式渠道，用以举报不安全或有害行为的担忧。拟议的悬赏将使这些员工在执法中获得直接的经济利益，因为奖励资金来源于对违规公司处以的罚款。

为何是纽约，为何是现在

在联邦监管框架尚未成型之际，纽约市在试行激进地方监管方面有着悠久的历史。其2023年要求对AI招聘工具进行偏见审计的法律——《第144号地方法》，是美国最早针对AI的监管法规之一。

新的一揽子法案走得更远。招聘法仅针对单一用例，而拟议立法试图为在市内运营的AI系统建立一个通用监管框架。急停开关、审计要求、私人诉权与吹哨人悬赏的结合，表明立法者正试图构建一套全面的监管架构。

这对行业意味着什么

对于在纽约设有业务的AI公司而言，合规负担将变得更加沉重。第三方审计需要花钱，而急停开关要求可能迫使已部署系统进行架构调整。

私人诉权条款对企业责任的影响可能是最重大的。目前，如果AI系统基于有缺陷的逻辑拒绝某人的住房、保险或就业机会，受影响者的法律救济途径十分有限。允许直接起诉开发商，将改变在高风险领域部署AI的成本收益结构。

下一个关键节点是10月5日，届时这些措施将提交市议会全体会议审议——受其监管的公司高管已受邀出席。