OpenAI начинает внедрять невидимую маркировку текста ChatGPT. В ближайшие недели водяной знак появится в ответах ChatGPT и Codex для пользователей из ЕС. Этот шаг со стороны компании требует вступившая в силу очередная часть AI Act. Маркер не будет выглядеть как подпись или специальный символ. Система будет немного менять статистику выбора слов, чтобы специальный детектор мог определить происхождение текста. При копировании обычного текста этот сигнал должен сохраняться.
OpenAI сама признает, что технология далека от идеальной. Чем короче текст, тем сложнее его распознать, а обычное редактирование способно заметно ослабить водяной знак. Например, замена всего 10% слов синонимами снизила результативность обнаружения примерно с 92% до 66%, а при замене 25% – до 17%. То есть перед нами скорее технический сигнал о вероятном происхождении текста, чем цифровой детектор, что это точно написал ИИ.
Водяной знак не показывает, сколько в тексте работы человека, не устанавливает авторство и не говорит, кто именно использовал ChatGPT. Поэтому сама по себе отметка не должна превращаться в доказательство нарушения или мошенничества при создании контента.
OpenAI сама признает, что технология далека от идеальной. Чем короче текст, тем сложнее его распознать, а обычное редактирование способно заметно ослабить водяной знак. Например, замена всего 10% слов синонимами снизила результативность обнаружения примерно с 92% до 66%, а при замене 25% – до 17%. То есть перед нами скорее технический сигнал о вероятном происхождении текста, чем цифровой детектор, что это точно написал ИИ.
Водяной знак не показывает, сколько в тексте работы человека, не устанавливает авторство и не говорит, кто именно использовал ChatGPT. Поэтому сама по себе отметка не должна превращаться в доказательство нарушения или мошенничества при создании контента.