人工知能が壊滅的な被害をもたらす可能性への懸念は、もはやSFや深夜のポッドキャストの中だけの話ではなくなっている。Bloombergの報道によれば、新たな安全対策を求める声が増えているが、そうしたルールを設計する立場の人々の間で、ルールのあるべき姿について合意が形成されていない。

政権の戦略：既存の仕組みを活用する

2026年10月10日、ドナルド・トランプ大統領の preferred なアプローチが明確になった。政権は、AI専用に構築された新たな連邦規制体制を作るのではなく、既存の責任法を執行してこの技術のリスクを管理することを支持している。このモデルは、過失責任や製造物責任といった確立された法原理に依拠し、専門の規制機関が事前にルールを定めるのではなく、裁判所が事案ごとに線引きを行うものである。

この立場には著名人が名を連ねている。スコット・ベッゼント財務長官がこれを支持しており、元ホワイトハウスAI担当者（AIツァール）のデビッド・サックス氏も同様である。

この方針は、2026年9月29日～30日に開かれたホワイトハウスでの会合に基づくものだ。そこでトランプ氏は、Anthropic、OpenAI、Nvidia、Meta、Googleといった主要AI企業の間で交わされた、法的拘束力のない協定を承認した。この協定は、参加企業における強固な社内プロセスと独立監査という2つのコミットメントを中心としている。

重要なのは「法的拘束力がない」という点だ。参加企業は自ら基準を守ることに同意しているのであり、法律で強制される基準に服しているわけではない。コンプライアンスは企業自身にかかっており、コミットメントから離脱した参加企業が法定罰則を受けることはない。

専門家の意見は割れ、反対意見はビッグテックの内部からも

2026年10月2日、Googleのジェームズ・マニカ氏は、AIには自己規制を超える規制が必要であると述べ、この技術がこれほど重要になっている以上、企業が自らを律することだけでは不十分だと警告した。この批判は、9月の協定の対象企業の一つであるGoogleからの発言であるだけに重みを増している。自主的アプローチへの反論が、その依拠するグループの内部から出た形だ。

2026年3月のRANDの報告書は、なぜこのより広範な議論が停滞しているのかを説明する助けになる。この研究は24名のAI・政策専門家の見解を集めたもので、厳格な規制が実現可能だという楽観的な見方はほとんどないことが分かった。評価された選択肢の中で、専門家はリスク開示のインセンティブを最も有望な道と位置付け、厳格な規制は最も実現可能性が低いとして最下位に置いた。自主的措置と開示インセンティブが、より現実的なツールと見なされた。

州は待っていない

2026年9月18日、カリフォルニア州のギャビン・ニューサム州知事は、AI安全計画の見直しを開始する行政命令を発行した。この見直しは、いわゆる「キルスイッチ」機構、すなわちAIシステムが危険な挙動を示し始めた場合にシャットダウンする方法も対象としている。この命令は、AIがもたらすリスクへの高まる懸念を反映している。連邦の姿勢との対比でもある。法的拘束力のない協定とは異なり、州の見直しから生まれる安全要件は法律の力を持ち得るのだ。

AI業界と投資家にとっての意味

フロンティアAIを構築する企業にとって、政権のアプローチは猶予をもたらす。新たなルールではなく既存の責任法に依拠することは、企業が自らの運営方法を大幅に見直す直接的な圧力に、当面はさらされにくいことを意味する。

しかし、責任法に依存するということは、境界線が事前に明示されるのではなく、多くの場合訴訟を通じて、被害が生じた後に定義されることを意味する。

カリフォルニア州や他の州が独自の安全要件を追求すれば、企業は管轄区域ごとに異なるルールのパッチワークに直面する可能性があり、これは単一の全国基準に従うよりも通常、対応コストが高くなる。

注目すべき点はいくつかある。第一に、協定で約束された独立監査が実際に行われるかどうか、そして何が明らかになるか。第二に、カリフォルニア州の見直しが何をもたらすか、特にキルスイッチ要件について。第三に、マニカ氏のような反対意見が他の経営陣に広がるかどうか。広がれば、自己規制で十分だという主張を維持することがより難しくなるだろう。