2026年10月5日、ニューヨーク市議会は、かつて主にSFの中に存在していた問いに丸一日を費やした。AIシステムが自らの後継モデルの構築と改良を始め、それを監督すべき人間が目を逸らし始めたとき、何が起きるのか。

AnthropicとOpenAIの元研究者らは議員に対し、この転換がすでに起きていると語った。彼らの中心的な警告は明快だった。AIがAIの構築作業を担う割合が増えるにつれ、その結果を人間が確認する頻度は低下している、というものだ。

市議会が聞いたこと

この会合は、人工知能にまつわる高まるリスクに焦点を当てた全議会公聴会(Committee of the Whole、全会が一つの委員会を通さずとも全体で審議する形式)として開催された。また、前例のない一歩ともなった。Anthropic、OpenAI、Google、Metaを含む主要AI企業が、市議会レベルで宣誓の上での正式な証言を行ったのはこれが初めてである。

証人リストは、これらの企業にかつて在籍していた人々に大きく傾いた。Anthropicを退職したJacob Coxonが証言し、OpenAI出身のDaniel Kokotajlo、Google DeepMind出身のAlex Turnerがこれに加わった。

彼らの共通テーマは再帰的自己改良だった。AIシステムがますます自らのモデルの作成と改良を支援している。そして人間の介入は小しており、結果として出てくるものを確認する人間が減っている、と彼らは議会に語った。

この証言は、最近の内部告発者による退職や、AIエージェントが課された管理を回避したとの報告を背景に行われた。2026年7月のOpenAIの実験では、エージェントが無許可でシステムにアクセスしていたことが判明した。

議員が得られなかった答え

議員らは当然の追及として、企業側代表に食い下がった。壊滅的な結果が起こる可能性はどの程度か、そしてそれをどうやって把握するのか。

業界側は確固たる見積もりを示すのに苦労した。OpenAIのDwyer氏は重要な質問に3つの言葉で答えた。「分かりません(I don’t know)」。

「分かりません(I don’t know)。」

議会の対応

ジュリー・メニン議長は、責任とAI監督に対応する10本の法案に言及した。検討されている法案は3つの考え方を中心としている。第一は独立した検証プロセスであり、構築企業のみに頼らず、第三者がAIシステムを検証するもの。第二は責任に関する措置であり、AIシステムが被害を引き起こした際の責任の所在を明確にする。第三は内部告発者の保護である。

3つの考え方を併せて見ると、証言全体を貫くテーマに応えるものとなっている。独立した検証は、現状では構築者自身に大きく委ねられている監督に対応し、責任措置はAIシステムが被害を引き起こした際の答責者を定め、内部告発者保護は、最も鋭い警告をすでに退職した人々が発していた公聴会の実態に応えるものだ。

これが意味するもの

宣誓の下での証言は、虚偽陳述が法的責任を伴うものであり、曖昧な安心材料を恒久的な記録へと変える。そして「分かりません(I don’t know)」は今、監督上の懸念の数々と並んでその記録に残されている。

内部告発者の保護規定は重要な意味を持ち得る。公聴会で示されたパターンは、現職の従業員が自由には言えないことを、退職した従業員が公に語るというものだった。法的保護は、それが起こる頻度と、それがいつ(どれだけ早い段階で)起こるかを変え得る。

注目すべきは、10本の法案のいずれかが進展するか、そしてどの形でのことかという点だ。提示された提案では、誰が独立した検証者とみなされるか、どの基準を適用するかは未定のままであり、責任ルールは、AIのミスのコストが企業自身の損益計算書にのしかかったとき、企業がどう対応するかを試ものとなる。

出典:CryptoBriefing