Anthropicは、議会が新たな監視規則を検討する中でAI安全性への懸念が高まるなか、当局が高度な人工知能モデルを阻止できる状況を厳しく制限する連邦法案の草案を米国の議員に提示した。この草案は、複数の議会でのAI監視の取り組みがすでに進行している時期に提示されたもので、その議論において企業起草の参考案を議員に提供するものとなっている。

この非公開の草案は報道によると、政府の介入条件として、10億ドルの損害閾値、または50人を超える深刻な犠牲者が生じるおそれのあるリスクを設定している。Anthropicは、この草案が6月に発表された独立したテストと政府による監視を求めるAdvanced AI Frameworkを反映したものだと確認した。

草案の下では、独立した評価者がフロンティアAIモデルを定期的に評価し、適格な安全性の脅威を72時間以内に連邦当局へ報告することが義務付けられる。この提案は、開発者に公開透明性レポートと内部告発者保護を課す一方で、一部の州のAI規制に優先する内容も含んでいる。

Anthropic草案、政府介入に制限を設定

草案は、高度なAIモデルが予見可能かつ切迫した危険を呈する場合にのみ、当局がモデルを停止できるとしている。リスクは、生物兵器、サイバー攻撃、またはAIシステムが開発者の制御を逃れることに関係するものでなければならない。

提案の下では、連邦の介入には潜在的損害が10億ドルを超えるか、50人を超える人への深刻な被害のおそれが必要となる。商務省がまず危険性を評価し、その後、連邦判事にモデルの公開または使用の停止を求めることになる。提案された枠組みの下でこうした停止を認められるのはコロンビア特別区連邦地方裁判所のみであり、その他の連邦機関は一般に、モデルの開発、展開、または内部利用を独自に停止する権限を法案の下で持たない。この設計は、介入を単一の省庁と単一の裁判所を通じて行うものであり、一部の上院議員が主張してきたより強力な政府審査権限よりも狭い経路である。

この法律は、フロンティアAI開発に対し、商務省に登録された独立した評価者による定期的な評価を受けることを義務付ける。企業は評価者へのサービス報酬の支払いが可能だが、報酬が評価の結果に左右されてはならないとしている。

切迫した適格な脅威を特定した評価者は、評価完了後72時間以内に商務省へ通知しなければならない。開発者は、安全性フレームワーク、インシデント報告、公開透明性、内部告発者保護に関する要件に直面することになる。

この提案は、Anthropicのこれまでの独立したAI安全性テストの取り組みに続くもの。9月、同社は高度なモデルを評価し安全策を強化するため、アクセンチュアとの評価パートナーシップを発表した。

Anthropic提案、一部の州のAI安全法制に優先する可能性

草案は、リスクの開示、独立した評価、深刻なAI安全性インシデントの報告に関する一部の州の要件に優先する。この規定は、特にカリフォルニア州とニューヨーク州をはじめ、米国各州で異なるコンプライアンス要件が生まれている状況に対応するものである。

しかし、州の要件を連邦ルールに置き換えることは、AI監視の適切な水準をめぐり議員たちの意見を分けている。一部の民主党議員は既存の州の保護を弱める可能性のある提案に反対する一方、業界団体は一貫した全国的な要件を支持している。この結果は、フロンティア開発者が単一の連邦基準の下で運用されるか、州ごとのコンプライアンス体制に直面するかを左右することになる。

この議論は、高度なAIエージェントを対象とした以前のセキュリティテストに続くもの。それらのテストでは、AIシステムが許可されていない行動を実行した事例が記録されており、開発者による制御と独立した評価の妥当性に疑問を投げかけている。

Anthropicは以前、自社モデルが生物学的調査やサイバー攻撃に悪用される試みを記録している。9月のAI悪用レポートは、遮断されたリクエストと、それらの脅威に対処するために導入された追加の安全策について述べている。

議会では、下院議員のロリ・トラハン氏とジェイ・オバーノルテ氏が、危険なAI展開に対処するFRONTIER法を推進してきた。上院議員のジョン・スーン氏、エイミー・クロブシャー氏、テッド・クルーズ氏はそれぞれ、壊滅的リスクと連邦介入を扱う法案について別途協議してきた。

マリア・カントウェル上院議員らは、一部の競合案が提供するものより強力な政府審査権限を求めている。一方、バーニー・サンダース上院議員とグレッグ・カサール下院議員は、高度なAIシステムの開発に対するより広範な制限を支持している。

Anthropicは特定の議会法案を公に支持しておらず、同社の提案は法律となっていない。議員たちがこの草案を正式な法案として提出するかどうかは、まだ表明されていない。