人工知能（AI）安全性評価機関と、その監視対象である企業の間の「回転ドア」への検証が高まるなか、利益相反の懸念が表面化している。AIの安全性を評価する人々が、場合によっては評価対象のラボと職業上・資金面のつながりを持つ可能性がある。こうした評価はフロンティアモデルが展開に耐えるほど安全かを判断する役割を担うだけに、評価者の独立性をめぐる疑問は業界全体に及んでいる。

Anthropic CEOのダリオ・アモデイ氏とOpenAI CEOのサム・アルトマン氏が、第三者評価者を自社ラボ内に直接組み入れる提案を行ったことで議論は一段と激化し、くすぶっていた懸念が顕著な公的問題へと発展した。この仕組みでは、監視機関が監視すべき環境の内部に置かれることになり、独立性がいかに確保されるのかという問いが鋭くなる。

結びつきの網

論争の中心にあるのはMETR（Model Evaluation and Threat Research）だ。フロンティアAIモデルが展開に十分な安全性を備えているかを評価する任務を担う最も著名な組織の一つである。METRのスタッフにはOpenAIやAnthropicの元職員が含まれ、その重は履歴書の域を超えて広がっている。

資金面はとりわけ複雑だ。Facebookの共同創業者ダスティン・モスコヴィッツ氏はAnthropicの株式を保有している。同氏の慈善財団は、効果的利他主義（Effective Altruism）ネットワークを通じて資金を流出させており、このネットワークはMETRやRedwood Researchといった評価組織に多額の資金を提供してきた。その結果、安全性監視機関に流れる資金は、場合によっては1、2段階たどるだけで、評価対象の企業にさかのぼれるエコシステムが形成されている。

複数の評価者が、評価対象のラボの職員と個人的あるいは家族的なつながりを持っている。

研究者のケビン・バス氏は2026年9月14〜15日、こうした結びつきを詳細に整理した分析を公開した。このスレッドは約500万ビューを集め、バス氏が構造的な利益相反と位置づける問題について議会調査を求める明確な呼びかけを含んでいた。

業界の反論

METRはこうした指摘に直接反応し、AIラボやその職員から報酬や寄付を受け取っていないと表明した。同組織は独立性を維持するため一部の資金源を積極的に拒否してきたと述べ、潜在的な利益相反の開示に取り組む姿勢を強調した。

現行の仕組みを擁護する論者は、フロンティアAIモデルの評価には極めて専門的な技術知識が必要だと指摘する。人材プールはもともと限られており、必要なスキルを持つ人々は、ほぼ確実にAIラボで働いたか、資金提供を受けた経験があるという。この希少性こそが、独立性を揭げる組織の間でも人材と資金の重複が続く理由を説明しており、同じ小さなコミュニティがフロンティアシステムを構築し、評価機関の人員を担い、それらを支える慈善資金の上流に位置している。

専門家書簡と今後の行方

2026年9月18日、100人超のAI専門家が構造的改革を求める公開書簡に署名した。署名者には、AI業界の自主規制のあり方を最も声高に批判する一人となったチューリング賞受賞者ジェフリー・ヒントン氏が含まれていた。

書簡は、評価者が調査結果について完全な編集自主権を持つこと、手法と結果に関する完全な透明性、評価対象企業からの報復に対する明示的な保護を求めた。

現時点で重大な規制変更は実現していないが、政治的圧力は高まり続けている。今後の注目点は、議会がバス氏の分析で提起された調査の呼びかけに応じるかどうか、ラボや評価機関が書簡の具体的な要求を採用するかどうか、そしてアモデイ氏とアルトマン氏の評価者組み入れ提案が何らかの形で具体化するかどうかだ。