OpenAI начала внедрять невидимый статистический водяной знак под названием textGrain в ответы ChatGPT и Codex на территории Европейского союза. Об объявленном 5 октября развертывании компания сообщила как о прямом ответе на требования прозрачности, установленные законом ЕС об ИИ. Этот шаг также расширяет действующие усилия OpenAI по отслеживанию происхождения контента, которые уже позволяют пользователям проверять, были ли изображения и аудиофайлы созданы с помощью ее инструментов. Компания подробно описала инициативу в официальном объявлении и публикации в X:

We're expanding our approach to content provenance to include text in response to EU regulatory requirements, while recognizing the significant limitations of current text watermarking technology. Our tools already help verify whether an image or audio file was created with our…

— OpenAI (@OpenAI) October 5, 2026

Как работает textGrain

Технология функционирует за счет незаметного влияния на выбор слов языковой моделью, создавая скрытую статистическую сигнатуру. Затем сопутствующее приложение для обнаружения анализирует текст, чтобы идентифицировать эту сигнатуру. По словам OpenAI, подход не опирается на скрытые символы, невидимые пробелы или необычные знаки препинания. В результате типичные методы обхода — такие как удаление скрытых символов из скопированного текста — не устранят водяной знак, поскольку сигнатура вплетена непосредственно в сами языковые паттерны.

Насколько водяной знак устойчив к изменениям?

Эффективность обнаружения значительно варьируется в зависимости от длины текста. OpenAI измеряет текст в токенах — фрагментах слов, которые интерпретируют языковые модели; примерно один токен равен трем четвертям стандартного английского слова. В ходе внутренних оценок система обнаружения успешно идентифицировала около 66% неизмененных ответов объемом примерно 150 слов. Когда объем достигал около 300 слов, показатель успешности возрастал примерно до 92%.

Изменение контента быстро подрывает эффективность водяного знака. Для фрагментов из 300 слов замена одного слова из десяти синонимом снижала точность обнаружения с 92% до 66%. При замене одного слова из четырех обнаружение падало всего до 17%. Внутренние выводы OpenAI демонстрируют, что система сталкивается со значительными трудностями, как только текст подвергается редактированию, сокращению или перефразированию — ограничение, согласующееся с «существенными ограничениями современных технологий текстовых водяных знаков», которые сама компания признала на момент запуска.

Компания также отметила, что внедрение водяного знака оказало минимальное влияние на показатели производительности ее новейшей модели GPT-6 Astra.

Почему инструмент обнаружения остается закрытым

OpenAI решила не делать детектор сразу общедоступным. Доступ вместо этого будет предоставлен исключительно проверенным исследователям и специализированным организациям. Компания уточняет, что положительный результатения не раскрывает личность пользователя, входные запросы или детали разговора.

Отрицательный результат также несет мало определенности. Краткий, измененный или переведенный контент может evade детектор без срабатывания предупреждений. Контент, созданный конкурирующими ИИ-платформами, также не активирует систему, поскольку она ищет исключительно собственную сигнатуру OpenAI. OpenAI прямо заявила, что необнаружение водяного знака не подтверждает авторство человека.

Визуальный и аудиоконтент проходят отдельный процесс проверки. Пользователи уже могут загружать эти типы файлов на общедоступную платформу верификации OpenAI для сканирования на наличие водяного знака SynthID. Для текстовых результатов аналогичной публичной проверки пока нет, поскольку доступ к детектору остается ограниченным проверенными организациями.

Региональный охват и регуляторный контекст

За пределами Европейского союза водяной знак ChatGPT по умолчанию остается отключенным для обычных пользователей. Однако API-клиенты по всему миру могут активировать его для конкретных моделей через настройки своего проекта или организации. На практике водяной знак обязателен для ответов ChatGPT внутри ЕС, тогда как пользователи API по всему миру могут включить его добровольно через свои настройки — по умолчанию включен для пользователей ЕС, опционален везде остальном.

Развертывание следует за началом исполнения ЕС положений закона об ИИ о прозрачности, которое началось в августе. OpenAI представила водяной знак как элемент своего продолжающегося ответа на регуляторные требования. Компания также сослалась в своем заявлении на более широкие отраслевые данные: исследование TRM Labs показывает, что преступное использование ИИ-инструментов выросло на 40% в годовом исчислении.

OpenAI не раскрыла, станет ли инструмент обнаружения общедоступным и когда. Как система проявит себя при реальном редактировании, сокращении и переводе, и насколько широко подключатся API-операторы за пределами ЕС, остаются открытыми вопросами по мере развертывания. Пока реализация в ЕС и ограниченный доступ для одобренных исследовательских групп и экспертных учреждений представляют текущий охват инициативы.

Источник: Blockonomi