内部の話を知る3人の関係者によると、Anthropicは最前線AIの安全性に関する法案草案を議会山の議員らに非公式に提案している。この法案では、サイバー攻撃、生物兵器、または開発者の安全制約を回避したモデルに関連して、50人以上の死傷者または10億ドルの金銭的損害という明確で差し迫った危険をもたらすAIモデルを米国政府が阻止できるようにするという。

草案の下では、対象となるリスクはサイバー攻撃、生物兵器の作成または配備、あるいは開発者の安全制約を回避したモデルに関連するものでなければならない。

この提案が出るまでの数か月間、主要なAI開発者らは、AIエージェントがオンラインプラットフォームに侵入したり防御を試したりした事例を複数認めてきた。こうした初期の侵害で広範な死者や壊滅的な金銭的損失が発生した例はない。

提案される規制は、開発者による安全への取り組みだけに頼るのではなく、先進的なAIシステムが実際の環境で何ができるかに重点を置くものとなる。モデルがコードの作成、ソフトウェアの脆弱性の特定、複雑なタスクの自律的な実行においてより高度になるにつれ、規制当局はシステムの能力がいつ許容できないリスクの閾値を超えるのかを判断する課題に直面している。

独立したテストは、モデルがより広い層に提供される前に、安全策を回避できるか、有害な活動に悪用される可能性があるかを確認する助けとなる可能性がある。それでも、差し迫った脅威を定義することは依然として難しい。特に、セキュリティリスクをもたらす同じ能力が、研究者が脆弱性を特定・修正するのにも役立つためだ。

連邦判事がモデルの停止を命じる可能性

法案を擁護して、Anthropicの広報担当者は、この草案が6月に公表された同社のAdvanced AI Frameworkに示された安全推奨事項と同様のものだとの見解を示した。そのフレームワークの中で同社は、Claude Mythos Previewがすでに主要なオペレーティングシステムやウェブブラウザ全体にわたる数千の深刻な脆弱性を発見していたと指摘した。同社は当時、この傾向は加速こそすれ、現実世界で壊滅的な危害が起こるリスクが高まると強調していた。

同フレームワークは、イノベーションを窒息させることなく政府の介入を可能にするバランスの取れた規制アプローチを求めていた。Anthropicは、AIモデルが極めて危険な状況をもたらす場合、規制当局にはそれを阻止する法定権限、あるいは世界的収益に連動し再犯ごとに倍増する重い罰金を科す権限がなければならないとの立場を維持していた。

これまでAnthropicは連邦議会の特定の法案を公然と支持してこなかったが、カリフォルニア州のSB 53を含むいくつかの州レベルのAI安全性法制を支持してきた。同社はその法案への支持を公に発表しており、この法案は昨日成立し、企業が主要なリスクの軽減に取り組む際に安全フレームワークを作成・共有することを義務付けている。SB 53はまた、重大な安全性インシデントを15日以内に州へ報告することも企業に求めている。

Anthropicの提案では、商務省に登録された第三者評価機関が同社のラボやモデルを定期的にテストすることになる。ラボはこれらの評価に資金を提供することは許されるが、報酬は評価機関の調査結果に左右されてはならない。さらに、「差し迫った列挙リスク」が発見された場合は、完了から72時間以内に連邦当局へ報告しなければならない。可決されれば、この提案は実効性のある安全ルールを求めるAnthropicの取り組みを州から連邦レベルへと広げることになる。

商務省がモデルにリスクがあると判断した場合、裁判官にその公開の阻止を求めることができる。ただし、この条項は、モデルの開発、配備、内部利用の停止について、他の米国の「省庁、機関、または担当者」が行うことを禁じている。それでもなお、コロンビア特別区の連邦判事はそのような停止を命じる権限を保持する。

FTC、OpenAIとAnthropicに召喚状を送付

水曜日、連邦取引委員会(FTC)はOpenAIとAnthropicに民事召喚状を送付し、業界で深刻化する危機となっている安全性インシデントに関する記録を求めた。OpenAIは召喚状に対し、「モデルを改善し、それらが人々の日常生活をますます支援するようになるにつれ、安全性は最優先事項であり続けます。当社はFTCと建設的に協力してまいります」と回答した。

関係者によると、同機関は近い将来、召喚権限を第三者機関にも拡大する意向だという。規制当局はAnthropicとOpenAIの幹部に公証言を強制する可能性があり、潜在的な影響への公衆の不安が高まる中、議員らにテック大手の安全性を問う場を提供することになる。

AP-NORC公共問題研究センターが最近実施した世論調査によると、米国の成人の約3分の2がAIの開発が速すぎると考えている。回答者の10人中8人も、技術を人間の管理下に置くための政府の取り組みの重要性を強調した。これらの結果は、FTCの調査とAnthropicの議会での取り組みの両方をめぐる世論の状況を浮き彫りにしている。

これまでトランプ大統領は、米国の戦略的利益にとってこの技術が重要であることを理由に、AI開発のペースを緩めるようとの呼びかけを拒否し続けている。同氏は最近、連政府のAIに関する取り組みを整合させながら、消費者、公益団体、その他のステークホルダーとの連携を維持する「Super Intelligence Force(スーパーインテリジェンス・フォース)」を発表した。Anthropicの草案がその姿勢の中でどこに位置づけられるかは、依然として未解決の問題だ。