Anthropic начала встраивать невидимые водяные знаки в тексты, создаваемые её новыми моделями Claude, применяя эту меру глобально, поскольку компания готовится к соблюдению Закона Европейского союза об ИИ, который обязывает поставщиков ИИ-систем, генерирующих синтетический контент, обеспечивать обнаруживаемость их результатов.

Модели Claude, выпущенные начиная с 2 августа, будут нести незаметный сигнал на уровне модели. По словам Anthropic, водяной знак не изменяет смысл и читаемость текста и остаётся встроенным при копировании и вставке содержимого. Компания отметила, что знак «может сохраняться после некоторого редактирования». Anthropic присоединилась к Кодексу практики ЕС по ИИ-генерируемому контенту и заявила, что маркировка будет применяться по всему миру, а не только к пользователям в ЕС.

Как работает система водяных знаков

Сигнал будет применяться на multiple платформах, включая приложение Claude, API, Claude Code, Claude Cowork и Claude Tag. Клиенты, использующие поддерживаемые модели через Amazon Web Services (AWS), Google Cloud и Microsoft Foundry, также будут получать промаркированный вывод.

Вывод файлов обрабатывается иначе. Поддерживаемые форматы файлов, включая распространённые типы изображений, будут содержать подписанные метаданные происхождения на основе стандарта Коалиции по происхождению и подлинности контента (C2PA), а не встроенный текстовый водяной знак. C2PA — это межотраслевая спецификация, совместно разработанная Adobe, Microsoft, BBC и другими компаниями, которая всё шире применяется как общая система проверки происхождения и истории редактирования цифровых материалов.

Старые модели Claude не получат систему маркировки немедленно. Anthropic заявила, что работает над расширением этой функции на эти модели в течение переходного периода Закона ЕС об ИИ.

Компания предупредила, что интенсивное редактирование, перефразирование, перевод или смешивание вывода Claude с другим текстом могут сделать водяной знак необнаружимым. Также отмечено, что обнаружение водяного знака не подтверждает окончательно, что Claude изначально создал конкретный текст, поскольку такие действия, как вычитка или перевод существующих материалов с помощью Claude, также могут оставить след.

Anthropic планирует опубликовать технические детали, чтобы помочь пользователям и третьим сторонам в обнаружении своих водяных знаков, и ожидается выпуск дополнительной документации по мере развития систем маркировки и обнаружения.

Anthropic является второй крупной ИИ-лабораторией, внедрившей текстовые водяные знаки. Google DeepMind объявила в 2024 году о маркировке текста и видео, создаваемых через приложение Gemini и веб-интерфейс, с использованием технологии SynthID, ранее выпустив версию инструмента для нанесения водяных знаков на изображения в 2023 году. Другие крупные поставщики, включая OpenAI и Meta, пока не внедрили сопоставимое текстовое маркирование, хотя требования к прозрачности Закона ЕС об ИИ будут применяться в широком масштабе ко всем поставщикам моделей ИИ общего назначения, работающим в регионе.