Anthropic ogłosił, że zacznie osadzać niewidoczne znaki wodne w tekście generowanym przez swoje modele AI Claude, w odpowiedzi na nowe wymogi przejrzystości wynikające z EU AI Act, pierwszych na świecie kompleksowych regulacji dotyczących AI. Znaki wodne mają ułatwić identyfikację treści generowanych przez AI, ale system będzie również oznaczać tekst pierwotnie napisany przez ludzi, jeśli został później zredagowany lub przetworzony przez Claude — co może utrudnić ustalenie, czy materiał został rzeczywiście stworzony przez AI.

Z siedzibą w San Francisco spółka AI poinformowała we wtorek, że modele Claude uruchamiane w UE od 2 August będą od początku zawierać możliwe do odczytu maszynowego znaki wodne. Anthropic pracuje także nad rozszerzeniem tej technologii na starsze modele.

Choć znaki wodne wprowadzono w celu dostosowania się do EU AI Act, Anthropic potwierdził, że oznaczenia będą stosowane globalnie wszędzie tam, gdzie dostępne są obsługiwane modele Claude, obejmując Claude, Claude Code oraz platformę deweloperską.

Tekst generowany przez modele będzie zawierał osadzony znak wodny, który — jak podał Anthropic — powinien pozostać po kopiowaniu i wklejaniu oraz może przetrwać co najmniej część edycji. Obrazy i inne obsługiwane typy plików będą natomiast zawierać podpisane metadane wskazujące, że zostały przetworzone przez Claude.

Anthropic planuje udostępnić narzędzia umożliwiające użytkownikom i osobom trzecim wykrywanie jego znaków wodnych, choć specyfikacja techniczna nie została jeszcze opublikowana.

Ogłoszenie pojawia się w momencie rosnącej presji ze strony regulatorów i wydawców, aby firmy AI lepiej identyfikowały treści syntetyczne, po gwałtownym wzroście ilości materiałów generowanych maszynowo w internecie. Zgodnie z przepisami o przejrzystości w EU AI Act wszyscy główni dostawcy AI działający w bloku — w tym OpenAI, Google i Meta — podlegają porównywalnym obowiązkom oznaczania treści generowanych przez AI, a kilka jurysdykcji poza UE, w tym Wielka Brytania i poszczególne stany USA, wprowadza własne wymogi etykietowania AI. City AM wcześniej informował o napływie AI-generated „slop” do redakcji, w tym tekstów opinii i propozycji przedstawianych jako praca dyrektorów i innych autorów.

Tekst napisany przez człowieka również może zostać oznaczony

Anthropic przyznał, że wykrycie jednego z jego znaków wodnych nie musi oznaczać, że Claude był autorem oryginalnej treści. Użytkownik może samodzielnie napisać artykuł, a następnie poprosić Claude o korektę, tłumaczenie lub redakcję — i wynikowy tekst nadal może zawierać znak wodny Claude, mimo że podstawowa treść i idee pochodzą od ludzkiego autora.

Article 50 EU AI Act stanowi, że wymóg oznaczania nie ma zastosowania, gdy system AI pełni „an assistive function for standard editing” albo nie zmienia istotnie materiału lub jego znaczenia. Anthropic podpisał dobrowolny Code of Practice UE określający, w jaki sposób firmy mogą spełniać wymogi przejrzystości, jednak decyzja o stosowaniu znaków wodnych we wszystkich obsługiwanych wynikach Claude może objąć materiały wykraczające poza to, czego ściśle wymaga ustawodawstwo.

Spółka ostrzegła także przed traktowaniem znaków wodnych jako jednoznacznego dowodu autorstwa AI. Silna edycja lub parafraza może sprawić, że znak wodny stanie się niewykrywalny, a krótkie fragmenty mogą zawierać zbyt mało tekstu, by wygenerować wiarygodny sygnał. Metadane dołączone do obrazów i innych plików mogą również zniknąć po konwersji plików lub wykonaniu zrzutu ekranu.

Technologia wykrywania nie jest jeszcze doskonała

Alex Cui, chief technology officer firmy GPTZero zajmującej się wykrywaniem AI, napisał na X, że znakowanie tekstu wodnym znakiem zwykle polega na subtelnej zmianie prawdopodobieństwa wyboru słów przez model, tworząc wzorzec statystyczny, który można później zidentyfikować.

Dodał jednak, że technologia pozostaje niedoskonała, wskazując, że znaki wodne mogą mieć trudności z przetrwaniem „intense paraphrasing”. Ostrzegł też, że publiczne udostępnienie narzędzi wykrywających może ułatwić użytkownikom ustalenie, jak je obejść.

„The free paraphrasers I’ve tried have quickly bypassed Google Deepmind’s SynthId for what it’s worth”, napisał.

Niedawne badanie 1,682 dorosłych opublikowane w czasopiśmie Judgment and Decision Making wykazało, że uczestnicy oceniali historie wygenerowane przez ChatGPT jako bardziej wciągające i wyższej jakości niż historie napisane przez ludzi.

Jednak wyżej oceniali opowieści, o których powiedziano im, że zostały napisane przez ludzi. W dwóch kolejnych eksperymentach badacze nie znaleźli ogólnych dowodów na to, że uczestnicy potrafili wiarygodnie odróżniać historie napisane przez ludzi od tych napisanych przez AI.

Anthropic stwierdził, że jego znak wodny nie zmieni widocznie wyników Claude ani nie wpłynie na ich znaczenie czy czytelność. Spółka przyznała, że system dostarczy sygnał, a nie rozstrzygający dowód pochodzenia treści, pozostawiając firmom i wydawcom decyzję, jak dużą wagę przywiązać do nowych oznaczeń.