Detektory tekstu AI już wpływają na decyzje o poważnych konsekwencjach: kto zostanie przyjęty do szkoły, czy praca naukowa przejdzie recenzję i które posty pozostaną w sieci. Tymczasem większość tych systemów nie potrafi wyjaśnić ani jednej podjętej decyzji.

Zespół badawczy z Google DeepMind i University of Pennsylvania przedstawił metodę, która zamknięty detektor zamienia w taki, który rozumuje w pojęciach czytelnych dla człowieka — a koszt dla dokładności jest zaskakująco niewielki.

Artykuł zatytułowany „Building Auditable AI Text Detectors with Sparse Autoencoders” został zgłoszony 21 października 2026 roku. Został przyjęty na konferencję EMNLP 2026, jedno z najważniejszych wydarzeń w badaniach nad przetwarzaniem języka naturalnego.

Otwieranie czarnej skrzynki

Badacze opisują dobrze znany kompromis. Najlepiej działające detektory to dostrojone klasyfikatory neuronowe, których wewnętrzna logika jest w zasadzie szcznie zamknięta. Alternatywą są przejrzyste narzędzia oparte na cechach stylometrycznych i językowych, takich jak wzorce doboru słów i struktury zdań. Te można poddawać inspekcji — ale według artykułu ustępują modelom neuronowym znacznym marginesem.

Odpowiedzią zespołu jest potok przetwarzania, który zachowuje wiedzę modelu neuronowego, ale tłumaczy ją na formę interpretowalną. Proces zaczyna się od dostrojonego detektora opartego na Gemma-2-2B, kompaktowym, otwartym modelu z rodziny Gemma firmy Google. Badacze następnie stosują rzadkie autoenkodery (SAE) do aktywacji strumienia rezydualnego modelu.

Gdy model przetwarza tekst, informacje przepływają przez wewnętrzny kanał zwany strumieniem rezydualnym. Te sygnały są gęste i splątane — wiele idei jest zmieszanych w każdej liczbie. Rzadki autoenkoder je rozplata, ucząc się reprezentować te same informacje jako duży zbiór pojedynczych cech, z których tylko kilka aktywuje się dla danego wejścia.

Potok następnie automatycznie etykietuje te cechy, przypisując każdej opis czytelny dla człowieka. Zachowywane są tylko te cechy, które przekraczają ustalony globalny próg wierności, co oznacza, że etykieta musi rzeczywiście odpowiadać temu, co dana cecha robi. Przetrwałe cechy zasilają lekki klasyfikator regresji logistycznej, w którym każde wejście otrzymuje wagę — dzięki czemu dokładnie widać, jak bardzo wpłynęło na ostateczny werdykt.

Co pokazują liczby

Na danych z tej samej domeny, czyli tekście podobnym do tego, na którym modele były trenowane, interpretowalny klasyfikator uzyskał wynik F1 96,8 — to standardowa miara uczenia maszynowego łącząca precyzję i czułość w jednej liczbie, gdzie 100 oznacza wynik idealny. Oryginalny detektor typu black-box uzyskał 98,0, co pozostawia linię różnicy zaledwie 1,2 punktu.\nBardziej uderzający wynik przyniosły dane spoza dystrybucji treningowej, obejmujące tekst różniący się od zbioru treningowego — scenariusz najbliższy rzeczywistemu wdrożeniu, gdzie analizowany tekst nie zawsze będzie przypominał dane treningowe. Tam nowy model uzyskał F1 92,2, podczas gdy baseline black-box spadł do 75,2 — 17-punktowa przewaga wersji przejrzystej.

Kod i wytrenowane modele są publicznie dostępne na GitHubie w repozytorium google-deepmind/detectorscope.

Dlaczego prawdziwą historią jest audytowalność

Artykuł uzasadnia swoją motywację obszarami, w których te narzędzia są już stosowane: recenzje naukowe, edukacja, rekrutacja, dziennikarstwo i moderacja treści. W każdym z tych przypadków wynik detektora może bezpośrednio wpłynąć na człowieka.

Audytowalny detektor zmienia charakter rozmowy. Zamiast „system twierdzi, że ten tekst został napisany przez AI”, recenzent może wskazać konkretne pojęcia, które zadecydowały o werdykcie, i ocenić, czy się one bronią. To daje także osobie, której werdykt dotyczy, coś, co można podważyć.

Pozostają ograniczenia. Metoda zależy od automatycznego etykietowania cech, więc jakość tych etykiet wyznacza granicę tego, jak bardzo wyjaśnienia są rzeczywiście istotne. Próg wierności ma filtrować słabe etykiety, ale niezależne testy na publicznym kodzie pokażą, jak dobrze sprawdza się to w różnych domenach. Nie wiadomo też, czy podejście skaluje się poza detektor Gemma-2-2B użyty w badaniu.