ニューヨーク市は、AI規制を報奨金制度へと転換しようとしている。市議会のジュリー・メニン議長は9月25日、違反が判明したAI企業から徴収した罰金の一部を内部通報者に支払う規定を含む、人工知能（AI）監督法案パッケージを提出した。

法案パッケージの内容

内部通報者へのインセンティブが最も注目を集めているが、これはより広範な立法措置の中の一環である。法案の下では、違反AIシステムには人間による「キルスイッチ」の設置が義務付けられ、アルゴリズムに異常が生じた際に実際の人間がシステムを停止できるようにする必要がある第三者による安全監査も義務化され、違反に対する罰金は1件あたり最大25,000ドルに達する可能性がある。内部通報者への支払いは実際に徴収された罰金からの分配となるため、この罰金上限が報酬額の事実上の上限を規定することになる。

パッケージ内の別の法案は、AIによって被害を受けた個人の法的権利を拡大し、人々が開発者を直接訴える道を開くものである。

パッケージ全体は、10月5日の市議会公聴会で審議される予定であり、全51名の市議会議員が出席する見込みである。著名なAI企業の最高経営責任者（CEO）らも出席を招かれている。

内部通報の経路はすでに開設済み

市議会の動きは突発的なものではない。8日前の9月17日、レティシア・ジェームズ・ニューヨーク州司法長官が、AI従業員向けの専用内部通報ポータルを開設した。このポータルは、AI企業の従業員が安全でないまたは有害な慣行に関する懸念を報告するための正式な窓口を提供するものである。提案された報奨金制度は、違反が判明した企業から徴収された罰金から支払われるため、同じ従業員に執行への直接的な経済的利害をもたらすことになる。

なぜニューヨークなのか、なぜ今なのか

ニューヨーク市には、連邦レベルの枠組みが整う前に積極的な地域規制を先行して試す長い歴史がある。2023年に成立した、AIを活用した採用ツールに対するバイアス監査を義務付けるLocal Law 144は、国内で最初期のAI特化型規制の一つであった。

新しいパッケージはこれを大幅に前進させるものである。採用関連法が単一のユースケースを対象としていたのに対し、この法案は市内で運用されるAIシステム全般を対象とする監督枠組みの構築を試みるものである。キルスイッチ、監査義務、私的訴権、内部通報報奨金の組み合わせは、立法府が包括的な規制アーキテクチャの構築を目指していることを示唆している。\n## 業界への影響

ニューヨークで事業を展開するAI企業にとって、コンプライアンス負担は一層重くなる見通しだ。第三者監査には費用がかかり、キルスイッチの要件は、展開済みシステムのアーキテクチャ変更を強いる可能性がある。

私的訴権の規定は、企業責任の面で最も影響が大きい部分かもしれない。現在、AIシステムが欠陥のあるロジックに基づいて誰かの住宅、保険、雇用を拒否した場合、被害者が利用できる法的手段は限られていることが多い。開発者への直接訴訟を認めることで、高リスク領域におけるAI展開の経済性は変化することになる。

次の節目は10月5日、法案が全議会に付託される際に訪れる。規制対象となる企業の幹部らも出席を招かれている。