以下は、Decentralization Research Centerの研究責任者サミュエル・ヴァンス・ローによる論説コラムである。ホワイトハウスとのAI協定に基づく監査に実質的な価値を持たせるなら、監査人が何を検証するかを自ら選べるようにすべきだと論じている。

先週、世界で最も強力なAI企業6社が、外部の第三者に自社の検証を認めるとホワイトハウスに約束した。

9月29日、Nvidia、OpenAI、Anthropic、Google、Meta、xAIは、最も先進的なAIモデルを対象とする協定に署名した。ドナルド・トランプ米大統領はこの協定を「道徳的に拘束力がある」と評した。各社は「独立した外部監査人または評価者と協働する」こと、そして独立取締役が監査人の報告書を確認し問題が確実に修正されるようにすることを約束している。

外部監査は良い考えであり、ヴァンス・ローもその盛り込みを歓迎している。しかし彼によれば、協定には監査人を誰が選ぶのか、何を調査できるのか、調査結果が公開されるかどうかについての言及がなく、無視してもペナルティも存在しない。現状では、各社が自社の監査人を選び、その監査人が何を見るかを決める仕組みだ。

この仕組みは、企業史の教訓的な出来事を想起させる。2000年、エンロンは会計監査のためアーサー・アンダーセンに2,500万ドルを、税務・コンサルティング業務としてさらに2,700万ドルを支払った。アーサー・アンダーセンはかつて国際会計大手「ビッグ5」と呼ばれた一角で、同社の崩壊後は「ビッグ4」となった。2年以内に両社は倒産した。議会はサーベ・オクスリー法で対応し、監査人の選定権を経営陣から取り上げた——これはまさに新たな協定が各AI企業に委ねている権限である——監査人が監査先の企業に他のほとんどのサービスを販売することを禁じ、監査人自身を検査する公開委員会を設置した。

アンダーセンが失敗したのは専門性の欠如のためではなく、1年で5,200万ドルを支払う顧客を厳しく検証する動機に欠けていたためだ。

AI業界の自主的な誓約も、あまり良い実績を持っていない。2023年、主要AI企業はホワイトハウスに対し、リリース前に外部専門家にシステムをテストさせることを含む一連の自主的コミットメントを行った。スタンフォード、ハーバード、ブラウンの研究者がその後、16社をこれらのコミットメントに基づいて評価したところ、平均は53%だった。外部の者が問題を発見・報告するのを支援するという約束については、16社のうち8社がゼロを記録した。

外部テストが実際に行われる場合でも、条件を設定するのは開発者側だ。AIモデルのテストを行う非営利団体METRは、OpenAIのo3モデルのリリース前テストが「わずか3週間で実施され」、「モデルに関する情報へのアクセスが限定的」で、モデルの段階的推論を閲覧できなかったと明らかにしている。OpenAIに公平を期すなら、そもそもテストを許可したのは同社自身だ。しかし、企業が共有を選ぶ内容次第でどれほど多くが左右されるかを示す事例である。

訓練済みのAIモデルは本質的に非常に巨大な数値ファイルであり、生成には1億ドルを超えるコストがかかることも多い。コピーを持つ者がモデルを手にすることになる。部外者にコピーを渡すことはセキュリティリスクだ。最近まで、テスターは厄介な選択を迫られていた。Google DeepMindがうまく説明したように、テスター側が質問を渡し企業が事前に試験内容を見るか、あるいは企業がモデルを渡すかのどちらかである。

8月、DeepMindはこのジレンマを回避する方法を示した。シンガポールAI安全研究所および他の3つの外部団体と協力し、二重盲検薬物試験と同じ原理に基づく、世界初のAIモデルの二重盲検テストと称する試験を実施した。テストは封印されたコンピュータハードウェア上で実行され、外部テスターはモデルを見ることなく、Googleも質問を見ることはなかった。Googleは、双方が数学的に自社の情報の機密性が保たれたことを確認できると述べている。

この手法は信頼をハードウェアそのものに移すものでもある。昨年、研究者が1,000ドル未満の機材でこの種の封印ハードウェアに侵入した事例があるが、そのためにはサーバーへの物理的アクセスが必要だった。これは真剣に受け止めるべきことだ。しかし、「モデルに誰も近づけてはならない」という問題よりははるかに小さな課題であり、誰がマシンを管理するかに注意を払うことで対処できる。

この議論は、Decentralization Research Centerが今週発表した報告書「集中型AIに代わる選択肢」に基づくものだ。同報告書のため、ヴァンス・ローと共著者のカイル・ブリジは36人にインタビューし、AIの集中管理に代わる機能している選択肢を約30個マッピングした。その主な結論はこうだ。部外者は今や、モデルやそのデータを保有することなく先進的なAIを精査できる。

協定の監査に実質的な価値を持たせるなら、モデルのコピーを受け取らずに検証できるようになった今、監査人が何をテストするかを自ら選ぶべきだとヴァンス・ローは主張する。企業はまた、詳細な調査結果が非公開のままであっても、監査人が誰で、監査が何を対象としたかを明らかにすべきだ。上場企業は何十年もの間、企業秘密を漏らすことなく監査人を公表してきた。そして、これらの報告書を読む取締役会委員会は、会社の外部の誰かに説明責任を負うべきである。サーベンス・オクスリー法は監視者を監視する仕組みを作った。協定にはそれに相当するものがなく、その空白を何で埋めるかを議会が決めるべきだ。

注：このコラムで表明されている見解は筆者個人のものであり、必ずしもCoinDesk, Inc.およびその所有者・関連会社の見解を反映するものではない。