95% «написано ИИ». А если детектор ошибся?
Представьте: ваш роман получает литературную премию. А на следующий день интернет объявляет, что написали его не вы, а нейросеть.
Именно это произошло с канадско-гаитянским писателем Тэлисоном Орельеном. Его роман «C’était ça ou mourir» получил премию Fnac. Затем анонимный аккаунт заявил, что книга «почти целиком» написана ИИ, сославшись на результаты детектора Pangram. Журналисты Le Monde тоже проверили значительную часть текста: детектор отметил более 95% как созданные ИИ.
Звучит убийственно. Но вот что тревожит: «95% уверенности» — не то же самое, что доказательство.
Мы не знаем, как именно инструмент пришёл к выводу и насколько надёжно он работает с таким текстом. Орельен обвинения отвергает, издатели его поддерживают. А репутационный удар уже нанесён: роман исключили из отбора на Гонкуровскую премию. Позже появились и отдельные обвинения в плагиате прежних текстов автора — их важно не смешивать с вопросом об ИИ.
Меня в этой истории цепляет не только литературный скандал. Сегодня подобная ситуация может возникнуть где угодно: в университете, редакции, компании. Человек приносит результат своей работы, кто-то загружает его в «детектор» — и вдруг уже человеку приходится доказывать, что он человек.
Это не призыв верить автору на слово. Это призыв не превращать непрозрачный алгоритм в судью.
Если использование ИИ важно для оценки работы, нужны ясные правила и возможность разобраться в процессе её создания: черновики, версии, история правок, разговор с автором. Детектор может дать повод задать вопрос. Но не должен ставить точку.
А вас что пугает больше: возможность выдать текст ИИ за свой — или возможность обвинить в этом невиновного?
Представьте: ваш роман получает литературную премию. А на следующий день интернет объявляет, что написали его не вы, а нейросеть.
Именно это произошло с канадско-гаитянским писателем Тэлисоном Орельеном. Его роман «C’était ça ou mourir» получил премию Fnac. Затем анонимный аккаунт заявил, что книга «почти целиком» написана ИИ, сославшись на результаты детектора Pangram. Журналисты Le Monde тоже проверили значительную часть текста: детектор отметил более 95% как созданные ИИ.
Звучит убийственно. Но вот что тревожит: «95% уверенности» — не то же самое, что доказательство.
Мы не знаем, как именно инструмент пришёл к выводу и насколько надёжно он работает с таким текстом. Орельен обвинения отвергает, издатели его поддерживают. А репутационный удар уже нанесён: роман исключили из отбора на Гонкуровскую премию. Позже появились и отдельные обвинения в плагиате прежних текстов автора — их важно не смешивать с вопросом об ИИ.
Меня в этой истории цепляет не только литературный скандал. Сегодня подобная ситуация может возникнуть где угодно: в университете, редакции, компании. Человек приносит результат своей работы, кто-то загружает его в «детектор» — и вдруг уже человеку приходится доказывать, что он человек.
Это не призыв верить автору на слово. Это призыв не превращать непрозрачный алгоритм в судью.
Если использование ИИ важно для оценки работы, нужны ясные правила и возможность разобраться в процессе её создания: черновики, версии, история правок, разговор с автором. Детектор может дать повод задать вопрос. Но не должен ставить точку.
А вас что пугает больше: возможность выдать текст ИИ за свой — или возможность обвинить в этом невиновного?