AnthropicとAccentureは、フロンティアAI向けの新しい組み込み評価プログラムを通じて、AI安全性に関する協力を拡大している。両社は今後5年間でそれぞれ最低10億ドルをこの分野に投資する見込みだ。この取り組みは、業界がまだ埋めていない課題、すなわちフロンティア研究所の安全性へのコミットメントを独自に検証可能にすることを目的としている。

プログラムはAccentureの専門AI部門であるFacultyが主導する。同社は今年、AI能力の幅広い拡大の一環としてFacultyの買収計画を発表していた。Facultyの評価者はAnthropicのチームとともに、モデルの評価とレッドチーミング、アライメント評価の実施、モデルの安全策のテストを行う。

従来の外部評価者とは異なり、組み込みチームはAnthropicの従業員に匹敵するアクセス権を得る見込みだ。これにより、訓練中のモデルの観察、開発および展開に関する意思決定の検証、同社が安全性へのコミットメントを遵守しているかどうかの評価が可能となる。このアクセスの深さこそがこのモデルの特徴であり、評価を研究所の境界の外に置くのではなく、開発プロセスの内部に組み込むものである。

この取り組みは、AnthropicのCEO Dario Amodeiが最近のエッセイ「We Must Pace the Frontier」で示したコミットメントに沿うものであり、その中で彼は安全性へのコミットメントを検証可能にするより広範な取り組みの一環として、フロンティアAI研究所の内部で独立した評価者が活動することを求めていた。新しいプログラムは、この提案を名前の挙がったパートナーと明確な資金コミットメントを伴う実際の取り決めへと転換するものである。

Facultyはこれまで、主要なAI開発企業の安全性テストに携わってきた実績があり、AnthropicのClaude 4モデルに対するバイセキュリティ評価への貢献や、OpenAIのo1のレッドチーミングなどが含まれる。この実績により、チームは複数の研究所のフロンティアモデルをテストした実践的な経験を持って参画する。

Anthropicは、組み込み評価者がアクセスできる範囲やその調査結果の報告方法を定めた確立された業界標準がまだ存在しないため、このフレームワークは実験的な段階にとどまると述べた。合意された規範が存在しない状況では、アクセスと開示に関するこのプログラム自体の実践がその条件を定めることになる。資金調達も未解決のままである。Anthropicはこれまで、独立した評価は最終的に共同拠出または政府支援の仕組みを通じて資金提供されるべきだと主張してきたが、Accentureとのパートナーシップでは同社が評価業務に直接資金を提供する。つまり、このモデルは現時点では、Anthropicが提唱してきた共有インフラではなく、企業による直接的な資金提供に依存している。

この取り決めは排他的なものではない。Anthropicは、非営利評価機関METRとも協議中であり、今後数週間以内に追加の評価パートナーを発表する計画だという。一方、Accentureも他のAI開発企業との協力を続けることができる。この構造は、単一の関係への依存ではなく、Anthropicにおける組み込み評価者のロスター形成へと向かっている。

Anthropicは、組み込み評価者がモデルの安全性に対する責任を外部組織に移転するものではないと強調した。むしろ、このプログラムは同社自身の安全性へのコミットメントを独自に検証しやすくすることを目的としている。今後数週間で、少なくとも2つの点が明らかになるはずだ。すなわち、どの追加の評価者がプログラムに参加するか、そしてその実験的なアクセスおよび報告条件がどのように整備されるかである。