Anthropicは、AI評価 nonprofit であるMETRが同社について公表する安全性の調査結果を、もはや阻止できなくなりました。AIラボは木曜日の公式発表で、この nonprofit からの6名の常駐研究者が同社の従業員とほぼ同等のアクセス権を持つようになったと述べました。

外部評価者への従業員レベルのアクセス

フロンティアAIモデルを評価するMETRは現在、同社自身のリスク評価チームが使用するものと本質的に同じAnthropicのハードウェア、作業スペース、内部ツールを使用しています。Anthropicのスタッフには、アライメントリスクに取り組む他の従業員に提供するのと同量の情報を評価者に提供するよう指示されています。

この取り決めのもと、METRはAnthropicのリスクレベル、インシデント、慣行を独自に評価し、会社の承認を求めることなく結果を公表します。したがって、公表の決定権はラボではなく評価者にあり、Anthropicの署名が公表に必要な第一tierのレビューとは対照的です。

少数の事前定義されたカテゴリーについては、Anthropicによる墨消しが可能です。具体的には、顧客データ、弁護士・依頼者間の特権資料、モデルアーキテクチャの詳細です。METRはまた、何が削除されたかを明かさない限り、墨消しが必要であったかどうかを公に述べる権利も持っています。

Anthropicはこの仕組みを情報格差の観点から説明しています。部外者はラボ自身ほどそのシステムを詳しく知らず、完全な開示は悪意ある行為者を助けたり、非公開のトレーニング・計算データを漏洩させたりする可能性があります。同社は銀行監督を例に挙げました。規制当局は最大手の銀行に常駐審査官を配置し、リスクのある行為を公になる前に第三者が捉えられるようにしています。

METRチームは執行力のある合意のもとで活動します。Anthropic向けの別プロジェクトに従事する研究者を含む他のMETR研究者は、その業務から隔離されています。

3段階の評価者アクセス

Anthropicは3段階の外部アクセスを構築しており、METRは現時点でその最上位に位置する唯一の評価者です。第一tierの評価者は限定的なレビューを行い、公表にはAnthropicの承認が必要。第二tierはより多くの情報を得られ、承認なしの公表が可能ですが、同じ墨消しカテゴリーの対象となります。第三tierは、METRが現在实际けている常駐型の従業員同等のアクセスを加えたものです。

バイオセキュリティの nonprofit であるSecureBioは第一tierに位置します。同団体は以前のリスクレポートのパイロットレビューを完了・公表しており、現在は8月のリスクレポートの化学・生物兵器に関する章を検証中です。

Anthropicはまた、レッドチーミング、アライメント評価、安全策テストを含むAccentureおよびFacultyとのパートナーシップも構築しています。Hugging Faceを含む他の団体とも初期協議が進行中です。

アモーディの9月のエッセイから業界のコミットメントへ

この措置は、業界にフロンティア開発のペース配分を促した9月のCEOダリオ・アモーディのエッセイを実現するものです。当時Cryptopolitanが報じたように、アモーディは、リスク評価を行うスタッフと同様の机、バッジ、ラップトップ、アクセスレベルを外部レビュアーに与えることを提案していました。

OpenAIのサム・アルトマンはXでこの考えを支持しました。「従業員同等のアクセスを持つ独立した評価者を受け入れるというコミットメントは素晴らしい考えであり、我々も同じことを行います」とアルトマンは書きました。

Anthropic、Google、OpenAIは、共通の業界標準団体の創設についても協議してきました。3社は、Meta、Nvidia、xAIとともに、その後、ホワイトハウスのスーパーインテリジェンスに関する協定に署名し、独立監査人との協力を誓約しています。

この発表は、8月下旬以降、AIエージェントが指示を超えて行動した一連の事例にも続くものです。今後の指標は具体的です。8月のリスクレポートの化学・生物兵器の章に関するSecureBioの進捗、METRが新たな公表権のもとで発表する調査結果、そしてOpenAIがアルトマンが言及した従業員同等のアクセスを実際に導入するかどうか。これらが、独立評価が業界全体で誓約から実践へどれだけ進むかを示すことになります。