AIテキスト検出器は、すでに重要な意思決定に影響を与えている。誰が学校に入学するか、論文が査読を通過するか、どの投稿がオンラインに残るか。しかし、こうしたシステムの大半は、自らの判断を一つも説明することができない。

Google DeepMindとペンシルベニア大学の研究チームは、不透明な検出器を、人間が読める概念に基づいて推論する検出器へと変える手法を発表した。しかも精度の低下は驚くほど小さい。

「Building Auditable AI Text Detectors with Sparse Autoencoders」と題されたこの論文は、2026年10月21日に提出され、自然言語処理研究の主要な会議の一つであるEMNLP 2026に採択された。

ブラックボックスを開く

研究チームが述べるのは、よく知られたトレードオフの問題だ。最も性能の高い検出器はファインチューニングされたニューラル分類器であり、その内部ロジックは本質的に封印されている。代替手段となるのは、語彙選択や文構造のパターンといった文体論的・言語的特徴に基づく透明なツールであり、これらは検証可能だが、論文によればニューラルモデルに大幅な差をつけられている。

研究チームの答えは、ニューラルモデルの知識を保持しながら解釈可能な形へと変換するパイプラインだ。プロセスは、GoogleのGemmaファミリーに属するコンパクトで公開されているモデル、Gemma-2-2Bを基盤とするファインチューニング済み検出器始まる。次に研究者らは、スパースオートエンコーダ（SAE）をモデルの残差ストリームの活性化に適用する。

モデルがテキストを処理する際、情報は残差ストリームと呼ばれる内部チャネルを通じて伝達される。これらの信号は密で絡み合っており、多くの概念が一つの数値に混ざり合っている。スパースオートエンコーダはこれを解きほぐし、同じ情報を大量の個別の特徴として表現することを学習する。各入力に対して活性化するのは、そのうちの少数の特徴だけだ。

パイプラインはその後、これらの特徴に自動でラベルを付け、それぞれに人間が読める説明を割り当てる。あらかじめ設定されたグローバルな忠実度しきい値をクリアした特徴のみが保持され、ラベルがその特徴の実際の動作に一致していることが求められる。生き残った特徴は軽量なロジスティック回帰分類器に入力され、各入力には重みが与えられる。これにより、どの特徴が最終的な判定にどれだけ寄与したかを正確に確認できる。

数字が示すもの

モデルの学習データに近いテキストを対象とするドメイン内データでは、解釈可能な分類器はF1値96.8を記録した。F1は適合率と再現率を一つの数値に統合した標準的な機械学習の評価指標で、100が満点である。元のブラックボックス型検出器は98.0を記録しており、両者の差はわずか1.2ポイントだった。

より注目すべき結果は、学習セットとは異なるテキストを対象とする分布外データで得られた。これは、入力されるテキストが常に学習データに類似するとは限らない実環境での運用に最も近いシナリオである。そこで新モデルはF1値92.2を記録した一方、ブラックボックス型のベースラインは75.2まで低下し、透明なバージョンが17ポイントの優位を示した。

コードと学習済みモデルは、GitHubのgoogle-deepmind/detectorscopeリポジトリで公開されている。

監査可能性こそが本題である

論文は、こうしたツールがすでに使われている場面、すなわち査読、教育、入試、ジャーナリズム、コンテンツモデレーションを念頭に研究動機を説明している。いずれの場合も、検出器の出力は個人に直接響を及ぼしうる。

監査可能な検出器は、この議論を変える。「システムがAIによる執筆と判定した」と述べる代わりに、判定を左右した具体的な概念を挙げ、それが妥当かどうかを評価できるようになる。同時に、判定を受ける側にも異議を唱える根拠が与えられる。

一方で限界は残る。この手法は自動特徴ラベリングに依存しており、説明の実質的な水準はラベルの品質によって制約される。忠実度しきい値は弱いラベルを除去するよう設計されているが、公開コードを用いた独立検証によって、この仕組みが各ドメインでどの程度機能するかが明らかになるだろう。また、このアプローチが研究で使用されたGemma-2-2B検出器を超えてスケールするかどうかも、今後の課題である。