ChatGPT начнёт метить тексты в ЕС невидимым водяным знаком

У OpenAI есть собственный замер, и я бы начал с него. Если в помеченном тексте заменить синонимами каждое десятое слово, детектор узнаёт его уже не в 92 случаях из ста, а в 66. Для тех, кто пишет тексты с ChatGPT для европейских заказчиков, это главная цифра недели.

Что сказало ведомство

Решения регулятора тут нет, это шаг самой компании под европейский закон об ИИ. Его правила прозрачности действуют со 2 августа и требуют метить созданный машиной контент так, чтобы его распознавали другие системы.

По данным TechCrunch, в ближайшие недели метка появится в ответах ChatGPT и Codex на всех тарифах, но только для пользователей из ЕС. Систему назвали textGrain. В тексте не появляется никакого значка, модель лишь немного смещает выбор слов, и этот след переживает копирование. В API знак может включить любой разработчик в мире, по умолчанию он выключен.

Детектор пока выдают только одобренным исследователям. Хуже всего он работает на коротких фрагментах, решениях задач и переводах. Сама OpenAI оговаривается (перевод наш):

Отсутствие водяного знака не доказывает, что текст написал человек.

Что это значит для бизнеса

Для России прямых последствий я пока не вижу. Наших пользователей знак по умолчанию не касается, а проверить текст обычный заказчик не сможет. Но фрилансеру или агентству с клиентами из Евросоюза я бы посоветовал договориться об ИИ на берегу и прописать это в договоре.

Мы в редакции проверяем каждый разбор детектором GigaCheck и правим его руками. Площадки вроде Хабра ловят машинный текст по манере, без всяких меток. Водяной знак добавит им ещё один способ.

Закона о маркировке ИИ-текстов у нас нет. Я бы всё равно держал простое правило для команды: цифры, даты и выводы в тексте сверяет человек по первоисточнику.

Кто ещё об этом написал

Об этом написали TechCrunch и немецкий the-decoder. Русскоязычных пересказов в нашей ленте нет.