Детекторы ИИ-текстов уже влияют на важные решения: кого примут в учебное заведение, выдержит ли статья рецензирование, какие публикации останутся онлайн. При этом большинство таких систем не может объяснить ни одного своего решения.

Команда исследователей из Google DeepMind и Пенсильванского университета представила метод, который превращает непрозрачный детектор в систему, рассуждающую на понятных человеку концепциях, — и потеря точности при этом удивительно мала.

Статья под названием «Building Auditable AI Text Detectors with Sparse Autoencoders» была подана 21 октября 2026 года и принята на конференцию EMNLP 2026 — одну из ведущих площадок в области исследований обработки естественного языка.

Открываем черный ящик

Исследователи описывают знакомый компромисс. Лучшие детекторы — это дообученные нейронные классификаторы, чья внутренняя логика фактически закрыта. Альтернатива — прозрачные инструменты на основе стилометрических и лингвистических признаков, таких как характерные паттерны выбора слов и структуры предложений. Их можно проверить — но, согласно статье, они значительно уступают нейронным моделям.

Решение команды — конвейер, который сохраняет знания нейронной модели, но переводит их в интерпретируемую форму. Процесс начинается с дообученного детектора на базе Gemma-2-2B — компактной открытой модели из семейства Gemma от Google. Затем исследователи применяют разреженные автоэнкодеры (SAE) к активациям остаточного потока модели.

Когда модель обрабатывает текст, информация проходит по внутреннему каналу, называемому остаточным потоком. Эти сигналы плотные и запутанные: в каждом числе смешано множество идей. Разреженный автоэнкодер распутывает их, обучаясь представлять ту же информацию в виде большого набора отдельных признаков, из которых для любого конкретного входа активируются лишь немногие.

Затем конвейер автоматически размечает эти признаки, присваивая каждому понятное человеку описание. Сохраняются только те признаки, которые преодолевают установленный глобальный порог точностиия — то есть метка должна действительно отражать то, что делает признак. Оставшиеся признаки подаются на легковесный классификатор логистической регрессии, где каждый вход получает вес — так можно точно увидеть, насколько каждый признак повлиял на итоговый вердикт.

Что показывают цифры

На внутренних данных, то есть текстах, похожих на те, на которых обучались модели, интерпретируемый классификатор набрал F1 96,8 — это стандартная метрика машинного обучения, объединяющая точность и полноту в одно число, где 100 означает идеальный результат. Исходный детектор-«черный ящик» набрал 98,0 — разрыв составил всего 1,2 пункта.

Более впечатляющий результат получен на внешних данных — текстах, отличающихся от обучающей выборки. Это сценарий, который ближе всего к реальному применению, где проверяемые тексты не всегда похожи на обучающие данные. Здесь новая модель показала F1 92,2, тогда как базовый «черный ящик» упал до 75,2 — преимущество прозрачной версии в 17 пунктов.

Код и обученные модели публично доступны на GitHub в репозитории google-deepmind/detectorscope.

Почему настраиваемость проверки — главная история

Авторы статьи обосновывают свою работу тем, что такие инструменты уже применяются в сферах с реальными последствиями: рецензировании, образовании, приемных комиссиях, журналистике и модерации контента. В каждом случае вывод детектора может напрямую затронуть человека.

Проверяемый детектор меняет сам характер разговора. Вместо «система говорит, что это написано ИИ» рецензент может указать на конкретные концепции, повлиявшие на решение, и оценить, насколько они состоятельны. Это также дает человеку, которого коснулось решение, возможность его оспорить.

Ограничения остаются. Метод зависит от автоматической разметки признаков, поэтому качество этих меток задает потолок осмысленности объяснений. Порог точности соответствия призван отфильтровывать слабые метки, но независимое тестирование публичного кода покажет, насколько это работает в разных областях. Кроме того, пока неизвестно, масштабируется ли подход за пределы использованного в исследовании детектора Gemma-2-2B.