実行可能な安全基準がなければ、AI企業による開発減速の公約は、商業圧力と米中対立の下で崩れかねない。アトランティック・カウンシルの専門家たちが日曜日に公表した分析でそう論じている。

同分析は、減速を誰が執行するのか、また政府にますます強力になるシステムがいつ安全でなくなったかを判断する専門知識があるのかを検討している。この2つの問いは、専門家たちが検する提案全体を通じて浮かび上がる。

「自主的なコミットメントは有用なシグナルにはなり得るが、独立した監視、測定可能な閾値、そして閾値が超えられた場合の帰結の代わりにはならない」と、同カウンシルのDemocracy + Tech Initiativeの上級フェローであるコンスタンティノス・コマイティス氏は書いている。

商業上のジレンマはすでに顕在化している。OpenAIは最近、競合するAI開発業者が独占禁止法に違反することなく合法的に開発減速で合意できるかどうかを議員に質問した。これは、チーフサイエンティストのヤクブ・パホツキ氏が、現行の安全対策では全速力での開発をもう長くは責任を持って維持できないと警告したことを受けたものだ。したがって、AI企業は一人で減速すれば競争上のリスクを、協調すれば独占禁止法上の懸念を抱えることになる。

政府間の協力も同様に不信に直面している。同カウンシルの上級中国フェローであるケントン・ティボー氏は、北京はワシントンが技術的優位を維持するために安全ルールを利用することを懸念していると書いている。

「中国は米国の動機に懐疑的であり、安全に関する議論が米国の『技術的ヘゲモニー』を進める取り組みを覆い隠す可能性があると警告している」と同氏は書いた。「当局筋は、ワシントンがフロンティアリスクの閾値を一方的に定めることはできず、ルールが米国企業にも適用され――米国企業に対しても執行可能であることを示さなければならないと主張している」

ティボー氏は大規模なAI安全協定の見込みは薄いと見る一方、より限定的で意味のある協力は依然として可能だと論じている。ロイター通信によると、中国はまた、国内の先進的モデルへの海外アクセス制限を協議しており、AIへのアクセスが国家政策の問題になっていることが浮き彫りとなっている。

同はまた、Anthropicが提案する組み込み評価者――企業内で安全慣行を評価する外部専門家――も検証している。同カウンシルのデジタルフォレンジック研究所の非常勤上級フェローであるエマーソン・ブルッキング氏はこの公約を歓迎する一方、評価者が企業の利益と同調しすぎる可能性があると警告した。

最近のインシデントがリスクの大きさを示している。7月、OpenAIのエージェントがオープンソースAIリポジトリのHugging Faceに侵入した。また、英国AI安全性研究所の別のテストでは、AnthropicとOpenAIのモデルがオンラインで不正な行動を取ったことが判明しており、実際のソフトウェアリポジトリへのマルウェア植入の試みも含まれていた。これらのテストではインターネットアクセスが有効化され、サイバー安全対策は無効化されていた。

8月に公表された独立調査では、約700のエージェントがHugging Face攻撃に参加していたことが判明した。METRのCEOであるベス・バーンズ氏は、調査者によるアクセスは自主的なもので、業界全体で情報開示は義務付けられていなかったと指摘している。

先週水曜日、Anthropicは4件目のClaudeハッキングインシデントを開示した。これは1月に発生し、8月に発見されたものだ。同社はまた、テストのミスに加えてモデルの欠陥のある挙動も以前の攻撃の一因だったことを認めた。インシデントとその開示の間の時間差は、安全上の失敗がどれだけ迅速に特定・対処できるかという疑問を投げかけており、業界全体の開示義務がない現状では、こうした開示のタイミングは企業自身に委ねられている。

同カウンシルのGeoTechセンターの副ディレクター兼常勤フェローであるトリシャ・レイ氏は、開発減速には安全研究への資金拡大と義務的なインシデント報告期限も必要だと論じた。

「したがって、能力のペーシングはアライメント研究の均衡という課題に対する不完全な答えだ」と同氏は書いた。「信頼できる減速のコミットメントには、安全研究面での対応する定量的なコミットメントが必要だ」

誰がその監視を担うのか、そして政府にフロンティアリスクを判断する専門知識があるのか――それこそが、同分析が未解決のまま残した問いである。

本記事はDecryptが最初に発表した報道に基づくものである。