РАПК dan repost
«Этот текст написал ИИ»: в Европе будут маркировать политические публикации
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Европа продолжает активно вводить новые методы регулирования нейросетевого контента. Со 2 августа в Евросоюзе начали действовать требования AI Act. Что это такое? Теперь тексты, созданные или существенно переработанные искусственным интеллектом, нужно будет сопровождать специальной отметкой. И речь идёт не только о дипфейках или контенте, который пытается ввести в заблуждение.
Правило касается вообще всех материалов, которые информируют по ряду значимых вопросов. Это и политика, и выборы, и работа государственных органов, а также другие темы, способные вызвать общественную дискуссию. Таким образом, под эти требования вполне могут попасть пост кандидата или статья о решениях властей – конечно, в том случае, если текст действительно сгенерирован ИИ.
Но в европейских правилах есть важные исключения. Например, никакие маркировки не придется ставить, если текст прошёл полноценную проверку человеком и за его публикацию кто-то несёт редакционную ответственность. К сожалению (или к счастью), просто исправить запятые или заменить несколько слов будет недостаточно. Правила требуют, чтобы человек проверил смыслы и факты, изучил источники и прочее.
Главный вопрос: кто и как это будет проверять? В случае если после публикации текста кто-то подаст жалобу и проверку инициируют – автору придется объяснить, как именно этот текст готовился. Проверенных технических решений (автоматических детекторов), которые бы точно могли дать ответ, писал ли статью человек или ИИ, практически нет. Даже OpenAI (создатель ChatGPT) пару лет назад закрыла свой сервис по проверке текстов на авторство – из-за низкой точности. В итоге проверка скорее всего сведётся к банальному запросу объяснений, кто и как готовил материал, а также кто ответственен за публикацию.
В России пока действует более мягкий подход. В июле этого года Президент подписал закон о поддержке развития технологий искусственного интеллекта, согласно которому ИИ-сервисы и крупные социальные платформы должны будут предоставить пользователям возможность отмечать созданные нейросетями материалы. При этом самих авторов закон не обязывает пользоваться такой маркировкой.
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Европа продолжает активно вводить новые методы регулирования нейросетевого контента. Со 2 августа в Евросоюзе начали действовать требования AI Act. Что это такое? Теперь тексты, созданные или существенно переработанные искусственным интеллектом, нужно будет сопровождать специальной отметкой. И речь идёт не только о дипфейках или контенте, который пытается ввести в заблуждение.
Правило касается вообще всех материалов, которые информируют по ряду значимых вопросов. Это и политика, и выборы, и работа государственных органов, а также другие темы, способные вызвать общественную дискуссию. Таким образом, под эти требования вполне могут попасть пост кандидата или статья о решениях властей – конечно, в том случае, если текст действительно сгенерирован ИИ.
Но в европейских правилах есть важные исключения. Например, никакие маркировки не придется ставить, если текст прошёл полноценную проверку человеком и за его публикацию кто-то несёт редакционную ответственность. К сожалению (или к счастью), просто исправить запятые или заменить несколько слов будет недостаточно. Правила требуют, чтобы человек проверил смыслы и факты, изучил источники и прочее.
Главный вопрос: кто и как это будет проверять? В случае если после публикации текста кто-то подаст жалобу и проверку инициируют – автору придется объяснить, как именно этот текст готовился. Проверенных технических решений (автоматических детекторов), которые бы точно могли дать ответ, писал ли статью человек или ИИ, практически нет. Даже OpenAI (создатель ChatGPT) пару лет назад закрыла свой сервис по проверке текстов на авторство – из-за низкой точности. В итоге проверка скорее всего сведётся к банальному запросу объяснений, кто и как готовил материал, а также кто ответственен за публикацию.
В России пока действует более мягкий подход. В июле этого года Президент подписал закон о поддержке развития технологий искусственного интеллекта, согласно которому ИИ-сервисы и крупные социальные платформы должны будут предоставить пользователям возможность отмечать созданные нейросетями материалы. При этом самих авторов закон не обязывает пользоваться такой маркировкой.