連邦議会は約10年にわたり人工知能に関する公聴会を開催しながら、安全性向上につながる立法をほとんど実現してこなかった。今度はニューヨーク市議会が、ワシントンが成し遂げられなかったことを一つの都市が実現できるのかを探ろうとしている。

金曜日、市議会のジュリー・メニン議長は、市内で販売されるAIシステムに外部検証の合格とキルスイッチの搭載を義務付け、違反を報告した内部告発者に報酬を支払い、ジェイルブレイクされたツールが引き起こした被害についてニューヨーク市民がAI企業を訴えることを認める、一連の法案を発表した。この法案は10月5日、全51議員が参加する全員委員会公聴会で審議される。停滞している連邦レベルの取り組みとは異なり、市議会は直接的な管轄権を主張している。これらのシステムを手がける企業はニューヨークで製品を販売し、大規模なオフィスの一部を市内に構えているからだ。

「私たちは決してイノベーションを妨げようとしているのではありません。ニューヨークが世界のAI首都であり続けることを確実にしたいのですが、それには責任が伴います」とメニン氏はFortuneに語った。「この二つの考えは決して相反するものではないと考えています。むしろ両者は表裏一体です」

「イノベーションの首都であると同時に、賢明で合理的な規制とガードレールの首都でもありたいのです。それによってこそ、人々が製品そのものを信頼できるからです」と同氏は述べた。

注目を集める公聴会

市議会は、Anthropic、OpenAI、Google、SpaceXAI、Metaの各CEOであるダリオ・アモデイ、サム・アルトマン、スンダー・ピチャイ、イーロン・マスク、マーク・ザッカーバーグの各氏に証言を求めた。10月5日の公聴会は全員委員会形式で、市議会がこの形式を開くのは2022年以来となる。

公聴会の事情に詳しい関係者によると、要請された5人の幹部が出席する可能性は低いという。ただし、市議会は証人喚問の権利を留保している。各社はFortuneの取材要求に直ちに回答しなかった。5人が出席するか、あるいは市議会が証言を強制する動きに出るかどうかは、この法案群がどれほどの抵抗に直面するかを示す最初の試金石となる。

それでも、他の幹部が各社を代表して出席する可能性は残っており、メニン氏は、公衆がこれらの制度に対する信頼を得ることが狙いだと述べた。「こうした規制は、人々のAI技術に対する信頼を実際に高めるものです」と同氏は言う。

主導権を握る都市

規制弁護士から政治家に転身したメニン氏にとって、この立法は市の域内にとどまることを意図したものではない。「規制弁護士として、また消費者労働者保護局の局長を務めた経験から、ニューヨーク市が果たすべき主導的な役割は間違いなく存在すると強く感じています」と同氏は述べた。

同氏はこの法案群を、コロンビア大学で自身が担当した講義「都市が主導権を握るとき」のケーススタディだと説明した。この講義は、「連邦政府が規制を緩和したり行動を起こさない場合」に都市が何をすべきかを検討するものだった。

「これはおそらくその最たる例です。AIという製品にはほとんど規制が存在しません」とメニン氏は語った。「ニューヨーク市では、理髪店からネイルサロンまであらゆる製品やサービスを規制しています。それなのに、AIに関してはほとんど規制がないという状況にあるのです」

手な連邦の実績

メニン氏が突きつけようとしている連邦政府の実績は、長い割にほとんど中身がない。初の連邦AI法案であるFUTURE of AI法は2017年に提出されたが、早期に頓挫した。2023年には、OpenAIのサム・アルトマンCEOが上院に対し自らの業界を規制するよう要請したが、当時のチャック・シューマー院内総務は、非公開のフォーラム9回を開いてロードマップを作成したものの、法案は成立させなかった。2025年までに、アルトマン氏は上院議員に対し、AIの公開に政府の承認を義務付けることは災難になると述べていた。

ワシントンがついに行動を起こしたとき、それは他者に行動させないためのものだった。上院は2025年7月、テッド・クルーズ上院議員が提案した州AI法に対する10年間の禁止を99対1の投票で削除したが、トランプ大統領はその後、州のAI法を訴えるための司法省タスクフォースを創設した。最初の標的となったコロラド州は、訴訟から5週間後に自州の法律を実質的に骨抜きにした。

今月、Anthropicの研究者ジェイコブ・コクソン氏が、AI企業が人命にかけていると警告して辞任した後も、連邦政府の対応は書簡と調査にとどまっている。最新の動きは、クルーズ氏、エイミー・クロブシャー上院議員、ジョン・スーン院内総務による超党派の安全法案で、これはニューヨーク州の現行RAISE法を含むほとんどの州法に優先する可能性がある。この先取をめぐる対立が最終的にどう決着するかが、市議会の法案群のどの部分が施行されるかを左右することになる。

7月の投稿で、OpenAIは、連邦法の代わりに各州が互いに酷似した法律を制定することでギャップを埋められると主張した。しかし、現在AI法を制定しつつあるほとんどの州ではなく、これらの企業が拠点を構えているのはニューヨーク市である。Googleは市内に14,000人以上の従業を擁し、Metaはハドソン・ヤーズ50番地で120万平方フィートを賃借している。Anthropicは今夏、ハドソン・ストリート330番地の16階建てビル一棟を賃借し、年末までに市内従業員が1,000人を超える見込みで、OpenAIは2024年にパック・ビルディングで90,000平方フィートを取得した。

「これらの企業はニューヨークにオフィスを構えています。製品はニューヨークで販売されており、これは当市が規制できる範囲に含まれると考えています」とメニン氏は述べた。

法案の内容

最も包括的な法案は、市のサイバー司令部が定める基準に基づき、外部の検証機関がデータ品質、バイアス、プライバシー、セキュリティを確認していない限り、事業者が市内でAIシステムを販売または展開することを禁止するものだ。すべてのシステムには、停止させることのできる人間による上書き機能、すなわちキルスイッチも必要となる。この要件は市内でAIを販売・展開するすべての事業者に適用されるため、大手開発企業にとどまらず広範な影響を及ぼすことになる。

「この業界は自主規制をすべき業界ではありません」とメニン氏は述べた。「問題は、現状ではそれが事実上の標準になっているということです」。違反1件につき25,000ドルの罰金が科され、メニン氏によれば、「もしエージェントの群れが動いている場合、罰金はエージェントごとに適用される」という。

別の法案は、法律に違反したAI企業から回収した罰金の一部を内部告発者に与えるもので、市議会はこれを全米初の措置と位置付けている。付随する措置として、公共の安全に対するAIの脅威を報告する市職員および請負業者を保護する法案も提出されている。

3つ目の法案は、第三者が安全制御を回避することで生じた被害について、その被害が予見可能で、企業が合理的な安全対策を欠いていた場合に限り、人々がAI企業を訴えることを認めるものだ。プラットフォームをユーザー投稿の責任から保護する連邦法である通信品位法230条がAI生成物に適用されるかどうかは裁判で確定していないため、この法案は連邦法の試金石にもなりうる。

その他の法案は、市の請負業者にAI安全インシデントを24時間以内に報告することを義務付け虚偽または誤解を招く安全性の主張を禁止し、電子プライバシー情報センターのPeople-First Chatbot法案に基づくチャットボットのプライバシー規則を定め、市のシステムに対するAI主導の攻撃に備えた計画策定を市に求めるものだ。市議会はさらに、欺瞞的なディープフェイクの禁止や、アルゴリズムツールが職務内容をどう変えるかの調査を含む、追加の法案が提出される予定だと述べている。10月5日の公聴会が、この取り組みがどこまで及ぶかを示す最初の公開の節目となる。

「私たちの法案は、安全性の問題に取り組むためのさまざまな方法を扱っています」とメニン氏は述べた。「ニューヨークをイノベーションのハブとして発展させ続けたいのです。規制がそれを妨げるという考え方は、私は信じません」

この記事はもともとFortuneに掲載されたものです。