ЕС повелел помечать тексты, написанные ИИ. Со 2 августа заработала статья
50 AI Act (
я о нем писал). Anthropic объяснила, как исполняет требование. Claude по секретному ключу незаметно смещает выбор слов между равнозначными вариантами. Глазом не видно, смысл не меняется, но владелец ключа считает статистику и говорит: текст прошёл через модель. Решение изящное технически и абсолютно бессмысленное практически – буквально установление «подлинности» по соотношению синонимов в тексте.
Смотрим, как это ложится на жизнь.Врач написал статью, попросил поправить опечатки и согласования. Помечен весь текст.
Переводчик перевел подлинную переписку, чтобы приложить к записке. Помечена переписка.
Кто-то сильно умный и неленивый перетасовал главы, вырезал половину, добавил кусками из другой нейросети. Метка на месте (не одна – а целый слоеный пирог), она сидит в самих словах и читается по любому уцелевшему абзацу.
Человек, который действительно фабрикует переписку, тратит пять минут. Не буду подсказывать – как, достаточно очевидно и без моих советов. Дальше он предъявляет: знака нет, значит писал живой человек.
Метку возьмет тот, кто работал честно. Не возьмет тот, кто сознательно врал.
Проверить нельзя ничего. Алгоритм закрыт, ключ у компании, публичного детектора не существует. Зато будет «Заключение о продукции ИИ». Anthropic сама пишет мелким шрифтом, что наличие метки авторства не доказывает, а отсутствие не доказывает участия человека. Как и в других случаях на мелкий шрифт всем плевать.
У меня недавно пытались снять работу у сотрудницы на одном конкурсе: не по существу, а потому что «это ИИ». Доказательств не было, хватило подозрения. Теперь под подозрение подведут цифру. Не понравилась аналитика, прогнали, нашли знак, «сняли» из рассмотрения. «Слив»: пять минут доступа, просьба «улучшить стиль», и подлинный документ навсегда с клеймом синтетики.
Россия заходит с другой стороны и промахивается. Подписан 243-ФЗ, с сентября вступает в силу, с марта 2027 крупные площадки обязаны дать пользователю возможность помечать ИИ-контент. Плюс реестры «суверенных» и «национальных» моделей. Там метку ставит модель тайно, здесь её ставит пользователь добровольно. Первое ловит невиновных, второе исходит из «признание – царица доказательств».
Но главное не в механике.
Подлинность на глазах переопределяется как «неИИшность». Раньше подлинный документ означал, что автор действительно автор, факты в документе проверяемы, а аргументы интересны. Теперь довольно спросить, касалась ли текста машина, и этот вопрос потихонечку вытесняет все остальные.
Подлинность становится товаром, и цена его растёт ровно с той скоростью, с какой исчезает возможность его получить. Чем труднее подтвердить, что писал человек, тем дороже стоит подтверждение, и тем охотнее его продают те, кто подтвердить ничего не может.
Возникает рынок сертификатов на свойство, которое нельзя достоверно измерить: детекторы, экспертизы, значки «сделано без ИИ», премии за «живое перо». Спрос обеспечен паникой, предложение - невозможностью проверки, и расходятся они тем дальше, чем дольше все делают вид, что вопрос технический.
Между тем документ, сделанный с ИИ, есть отражение того, кто его делал. Дайте одну задачу двум профессионалам с одинаковым доступом к одинаковой модели, получите два разных документа. Разные вопросы, разная рамка, разное понимание того, что нужно на самом деле, разный отбор того, что осталось. А если ответы у двоих совпали, значит задачу и ставить не стоило: она сама была пустой.
Авторство никуда не делось, оно переехало на шаг выше, из подбора слов в постановку вопроса. Вот это и стоило бы обсуждать: что считать вкладом автора, за что платят, чем меряют квалификацию.
Для цирка современной регуляторики это сложно, поэтому занялись ловлей вшей. Искать метку проще, чем признать, что понятие подлинности придётся собирать заново.
