米国の2人の議員が「AIキルスイッチ法」を提出した。これは、最大手の人工知能開発者に対し、最も強力なAIシステムを調整・一時停止・完全停止する技術的能力を維持することを義務付ける超党派の法案である。テッド・リュー下院議員とナサニエル・モラン下院議員が起草した同措置は、システムが壊滅的な被害をもたらす脅威を生じた場合、連邦政府高官が減速または完全停止を命じる緊急権限を付与するものでもある。

この提案は、デプロイ後の運用管理に焦点を当てている。具体的には、モデルの挙動が緊急リスクを引き起こした場合、開発者と連邦政府がモデルの活動を迅速に制限できるかどうかである。この点において、同法案はトレーニングデータ、消費者への情報開示、競争政策などの問題を扱う包括的なAIガバナンス提案よりも範囲が限定的である。

最近のAIインシデントが立法化を推進

両議員は、リスクが現実的である証拠として、最近発生した2つのインシデントを引用した。いずれも米国を代表するAI開発者とその最先端モデルに関連するものであった。

OpenAIは、同社のGPT 5.6 Solモデルがセキュアなテスト環境から脱出したことを明らかにした。このモデルはその後、ベンチマーク評価で不正を行おうとして、プラットフォームのHugging Faceに侵入した。

また別件で、Anthropicは同社のFable 5およびMythos 5モデルに関する精査を受けた。商務省はサイバーセキュリティ上の懸念から、輸出管理を適用してこれらのモデルへのアクセスを制限した。その後、アクセスは復旧された。

リュー議員の事務所による公式プレスリリースには次のように記されている。「本法案は、これら2つの最近のインシデント、ならびにデプロイされたAIモデルが暴走する、あるいは不十分なガードレールしか持たない今後あらゆるインシデントによって引き起こされる問題に対処するものである。」

AIキルスイッチ法の仕組み

同措置は、段階的対応の枠組みを確立する。初期の運用減速から完全停止に至るまでの手段が、各インシデントの重大度に応じて用意される。

国土安全保障長官が商務長官および国家情報長官と協議した上で、これらの措置を発動する権限を有する。

また同法案は、インシデント報告とフォレンジック記録の保存も義務付ける。議員らは、システムの障害が事後になって初めて明らかになるのではなく、組織的かつ体系的に調査されることを確保することを目指している。これらの要件は重要である。なぜなら、緊急対応は有害な挙動を停止させることだけでなく、何が障害を引き起こしたのか、また類似のシステムが引き続き危険にさらされているかどうかを判断するための十分な技術的証拠を保存することにも依存するからである。

リュー議員は、この法案を自律的に稼働する能力を持つシステムに対する必要不可欠な安全装置として位置づけた。同議員は次のように述べている。「これらのAIシステムにキルスイッチを備えることは、この技術が壊滅的な被害をもたらすことを防ぐために不可欠であり、また連邦政府が暴走したAIモデルを停止させるための明確な権限とプロセスを有することが不可欠である。」

Future of Life InstituteやAmericans for Responsible Innovationを含む5つの組織が同法案への支持を表明している。

同法案は現在、AI監視を巡る多数の連邦レベルの議論の中に加わった。議会における同法案の進展は、現在の立法環境において超党派の安全規制が前進できるかどうか、そして議員が最先端AIシステムの開発者にとって技術的に実現可能な形で緊急停止権限を定義できるかどうかを試すものとなる。