紐約市正準備將AI監管轉變為一種懸賞制度。市議會議長朱莉·梅寧（Julie Menin）於9月25日提出一攬子人工智慧監管法案，其中包含一項條款，向吹哨人支付從被認定違規的AI公司收取罰款的一定比例作為獎勵。

法案包內容

儘管吹哨人激勵措施最受關注，但它隸屬於一項更廣泛的立法推動。根據法案，不合規的AI系統將被要求設置人工「緊急停止開關」（kill switch），也就是說，當演算法出現問題時，必須有真人能夠關閉系統。第三方安全審計也將成為必要條件，違規罰款每次最高可達25,000美元。由於吹哨人獎金來自實際收取的罰款份額，該罰款上限實際上決定了潛在獎勵金額的上限。

法案包中的另一項法案將擴大受AI傷害個人的法律權利，為人們直接起訴開發商敞開大門。

法案包全文將於10月5日在市議會聽證會上進行辯論，預計全體51名議員都將參與。知名AI公司的執行長已獲邀出席。

吹哨人管道已經開通

市議會的這一舉動並非憑空而來。就在八天前的9月17日，紐約州總檢察長萊蒂蒂亞·詹姆斯（Letitia James）為AI從業人員啟用了專門的吹哨人門戶。該門戶為AI公司員工提供了一個正式管道，以舉報不安全或有害的做法。擬議的懸賞制度將使這些員工在執法中擁有直接的經濟利益，因為獎金來自對違規公司收取的罰款。

為何是紐約，為何是現在

在聯邦框架成型之前，紐約市有著長期測試強硬地方監管的歷史。其2023年要求對AI驅動的招聘工具進行偏見審計的法律——第144號地方法（Local Law 144），是全美最早針對AI的法規之一。

新的法案包走得更遠。招聘法僅針對單一使用場景，而擬議的立法則試圖為在市內行運營的AI系統建立一個通用監管框架。緊急停止開關、審計要求、私人訴權和吹哨人懸賞的結合，顯示立法者正試圖建立一個全面的監管架構。

這對業界意味著什麼

對於在紐約有業務的AI公司來說，合規負擔勢必加重。第三方審計需要花費資金，緊急停止開關的要求可能迫使已部署系統進行架構調整。

私人訴權條款對企業責任而言可能是影響最深遠的部分。目前，如果AI系統基於有缺陷的邏輯拒絕某人的住房、保險或就業，受影響者往往缺乏法律救濟途徑。允許直接起訴開發商，改變了在高風險領域部署AI的成本結構。

下一個關鍵節點是10月5日，屆時相關措施將提交全體議會審議——受監管公司的高管也已獲邀出席。