Detektory tekstu AI już teraz decydują o tym, kto dostanie się do szkoły, czyje prace przejdą recenzję naukową i które posty pozostaną w sieci. Jednak zdecydowana większość detektorów nie potrafi nawet wyjaśnić ani jednego wydanego przez siebie osądu.
Zespół badawczy z Google DeepMind i Uniwersytetu Pensylwanii chce to zmienić. Ich nowa metoda zamienia nieprzejrzysty detektor w taki, który rozumuje za pomocą pojęć zrozumiałych dla człowieka, a koszt w dokładności jest zaskakująco niewielki.
Praca nosi tytuł „Building Auditable AI Text Detectors with Sparse Autoencoders”, została złożona 21 października 2026 r. i przyjęta na EMNLP 2026—jedną z głównych konferencji akademickich w dziedzinie przetwarzania języka naturalnego.
Problem opisywany przez badaczy to dobrze znany kompromis. Najskuteczniejsze detektory to dostrojone klasyfikatory neuronowe, których wewnętrzna logika jest zasadniczo zamknięta. Alternatywą są przejrzyste narzędzia oparte na cechach stylometrycznych i językowych (takich jak wzorce doboru słów i struktury zdań), które można otworzyć i zbadać, ale które, zgodnie z pracą, znacznie ustępują modelom neuronowym pod względem dokładności.
Odpowiedź zespołu: zachować wiedzę modelu neuronowego, ale ją „przetłumaczyć”. Proces rozpoczyna się od detektora dostrojonego na Gemma-2-2B, po czym badacze stosują rzadkie autoenkodery (SAE) do aktywacji strumienia rezydualnego modelu.
Gdy model przetwarza tekst, przepuszcza informacje przez wewnętrzny kanał zwany strumieniem rezydualnym. Sygnały te są gęste i splątane, a w każdą pojedynczą wartość wmieszanych jest wiele pojęć. Rzadkie autoenkodery je rozplątują, ucząc się reprezentować te same informacje za pomocą dużego zestawu niezależnych cech, z których tylko kilka jest aktywowanych dla danego wejścia.
Następnie proces automatycznie etykietuje te cechy, przypisując każdej z nich opis zrozumiały dla człowieka. Zachowywane są tylko cechy, które przechodzą jednolity próg wierności—to znaczy etykieta musi rzeczywiście odpowiadać zachowaniu cechy. Cechy, które przejdą filtr, są podawane do lekkiego klasyfikatora regresji logistycznej, gdzie każde wejście ma wagę, dzięki czemu można wyraźnie zobaczyć, jak duży wpływ ma każdy element na ostateczny osąd.
Na danych w rozkładzie (tj. tekście podobnym do danych treningowych modelu) ten interpretowalny klasyfikator osiąga F1 na poziomie 96,8, w porównaniu z 98,0 dla oryginalnego detektora czarnoskrzynkowego.
Jeszcze bardziej uderzające są wyniki na danych poza rozkładem, czyli tekście różniącym się formą od zbioru treningowego. Tutaj nowy model osiąga F1 na poziomie 92,2, podczas gdy bazowy model czarnoskrzynkowy spada do 75,2.
Kod i wytrenowane modele zostały udostępnione publicznie w repozytorium google-deepmind/detectorscope na GitHubie.
Audytowalność to prawdziwy atut
Praca opiera swoją motywację na sytuacjach, w których detektory są już wykorzystywane w praktyce: recenzja naukowa, edukacja, rekrutacja, dziennikarstwo i moderacja treści. W każdej z tych sytuacji wynik działania detektora może bezpośrednio wpłynąć na czyjś los.
Audytowalny detektor zmienia charakter rozmowy. Recenzent nie może już powiedzieć wyłącznie „system uznał to za napisane przez AI”; może wskazać konkretne pojęcia, które kierowały tym osądem, i ocenić, czy się one utrzymują. Daje to również osobie ocenianej punkt oparcia do argumentowania swojego stanowiska.
Metoda opiera się na automatycznym etykietowaniu cech, więc jakość etykiet wyznacza górną granicę tego, jak sensowne mogą ostatecznie być te wyjaśnienia. Próg wierności został zaprojektowany tak, aby odfiltrowywać słabe etykiety, ale tylko niezależne testy na publicznym kodzie mogą pokazać, jak solidny jest on w różnych dziedzinach. Ponadto pozostaje kwestią otwartą, czy to podejście można skalować poza detektor Gemma-2-2B użyty w tej pracy.
