Jacob Coxon氏はAnthropicでの在籍中、高度なAIの開発に携わっていた。現在、同氏はニューヨークの議員らにその危険性を警告するため、市庁舎に向かおうとしている。

元AnthropicリサーチャーのCoxon氏は、2026年10月5日に開催されるニューヨーク市議会のAI安全性リスクに関する公聴会で証言する予定である。Anthropic、OpenAI、Google、Metaの代表者が同じ会合に出席する見込みであり、最近業界を離れた内部者が同分野の最大手開発者らと同じ席に着くことになる。

公聴会の概要

公聴会はJulie Menin議長が召集したもので、全委員会形式で実施される。この形式では、単一の小委員会に委ねるのではなく、全51名の市議会議員が関与する。

市議会は、大手AI企業4社の最高経営責任者(CEO)に出席を招請する書簡を送付した。宛先はAnthropicのDario Amodei氏、OpenAIのSam Altman氏、GoogleのSundar Pichai氏、MetaのMark Zuckerberg氏であった。

すべての受領者が市議会の期待どおりに対応したわけではない。SpaceXAIは不遵守を理由とする法的措置が開始された後、2026年9月30日頃に召喚状を受け取った。

調査結果によれば、今回の公聴会は、米国の立法機関がAI安全性に関する宣誓証言を強制した初の事例となる。不遵守は重大な法的結果をもたらす可能性がある。

審議対象の法案

議員らはこの会合を利用して、複数の立法案を検討する予定であり、そのうち3つが注目されている。

第1の法案は、市が使用するAIシステムの第三者検証を義務付けるものである。第2の法案は、法案で「全国をリードする内部通報者のインセンティブ」と記述される制度を創設するもので、AI研究所内の危険な行為を告発する内部者に報酬を与えることを目的としている。第3の法案は、AIシステムが引き起こした損害について個人が損害賠償を求める権利を認めるものである。

これらの提案を総合すると、自治体での使用に向けたAIシステムの検証のあり方、研究所従業員の警告の提起方法、システムが損害を引き起こした際の住民の補償請求の方法が形作られることになる。

内部通報者対策はまた、Coxon氏の証言をより際立たせるものである。同氏の警告は辞任後、研究所の外から発せられたものである一方、法案は依然としてAI研究所内で働く内部者向けに起草されている。

なぜCoxon氏が重要なのか

Coxon氏は2026年9月8日〜9日頃にAnthropicを辞任した。辞任時の公開声明は1億7,300万回以上閲覧されている。その中で同氏は、AI企業を「私たちの命を賭けられている」と評し、この技術が今世紀末までにすべての人を死に至らしめる可能性があると警告した。

調査結果によれば、同氏の辞任は公聴会実現の動きを大きく後押しした。

警告を発しているのはAnthropic関係者の中で同氏だけではない。AnthropicのEvan Hubinger氏もCoxon氏と同様の懸念を表明しており、AIが10年以内に人類にとって致命的となる確率を10%超と推定している。調査結果は、これらの警告を、高度なAIの存在論的危険性に関する一部のAnthropic研究者間で高まりつつあるコンセンサスを反映したものと述べている。挙げられた懸念には、生物兵器に匹敵するリスクや、人間による制御の完全な喪失が含まれる。

Coxon氏の主張には異論も呈されている。懐疑論者は、AI安全性の提唱に関連するPR企業との同氏の関係を懸念しており、同氏はこれらの主張を否定している。

10月5日の会合が開かれる際、2つの論点が残る。SpaceXAIが召喚状に応じて出席するかどうか、そして宣誓証言が終了した後、3つの法案がどのように進展するかである。