Опубликована первая версия проекта Кодекса практик по обеспечению прозрачности синтетического контента
Друзья, что мы больше всего любим на этом канале? Правильно – кодексы практик 🤩. Не успели мы отойти от Кодекса практик для ИИ общего назначения, а уже на подходе новый документ – Кодекс практик по обеспечению прозрачности контента, созданного с помощью ИИ (Code of Practice on Transparency of AI-Generated Content). Отдельно отмечу, что это пока что лишь первый драфт, финальный документ мы увидим ближе к лету.
Что это за кодекс?
Статья 50 Регламента ЕС по ИИ возлагает на Европейский AI Office обязанность по разработке кодексов практик, которые помогают операторам систем и моделей ИИ соблюдать законодательные требования. В данном случае кодекс направлен на соблюдение требований главы VI Регламента о прозрачности для отдельных операторов систем и моделей ИИ.
Из чего состоит кодекс?
Документ состоит из двух разделов: первый – для поставщиков, второй – для эксплуатантов, что позволяет совмещать разные технические и визуальные требования внутри всей цепочки поставки.
Раздел 1: Правила для поставщиков (providers) систем ИИ
Главная цель – внедрить машиночитаемую маркировку и обеспечить детектируемость синтетического контента.
Основные обязательства:
- Поставщики должны внедрить многоуровневую маркировку: метаданные с цифровой подписью, водяные знаки, фингерпринтинг/логирование. Маркировка должна фиксировать всю цепочку происхождения контента (provenance chain) – от полностью созданного системами ИИ до частично обработанного с помощью систем ИИ. Для открытых моделей маркировка внедряется на уровне параметров модели.
- Дополнительно внедряются методы форензического обнаружения (механизмы, определяющие генерацию даже без активной маркировки, анализируя артефакты генерации).
- Поставщики должны предоставлять бесплатные инструменты верификации (API/интерфейсы) и запрещать удаление маркировки в своих политиках. Также требуется тестирование методов в реальных условиях и обучение персонала.
Раздел 2: Правила для эксплуатантов (deployers) систем ИИ
Главная цель – сделать дипфейки и сгенерированный текст, опубликованный с целью информирования общественности, легко распознаваемыми для граждан.
Основные обязательства:
- Эксплуатанты должны ставить видимую метку на контенте. Кодекс вводит двухуровневую классификацию контента: полностью сгенерированный (fully AI-generated) и ИИ-ассистированный (AI-assisted).
- Пока единая метка ЕС не выработана – используется аббревиатура на языках стран-членов (AI, KI, IA). В перспективе должна быть создана интерактивная иконка с информацией о том, что именно сгенерировано. В скриншотах можно посмотреть, какие примеры рассматриваются рабочими группами.
- Для дипфейков критерии зависят от модальности: постоянная иконка для видео, звуковой дисклеймер для аудио, неинтрузивное размещение для художественных произведений.
Важное исключение для текстов: если контент прошел человеческий редакторский контроль и за публикацию несет ответственность конкретное лицо, а видимая маркировка не требуется.
Друзья, что мы больше всего любим на этом канале? Правильно – кодексы практик 🤩. Не успели мы отойти от Кодекса практик для ИИ общего назначения, а уже на подходе новый документ – Кодекс практик по обеспечению прозрачности контента, созданного с помощью ИИ (Code of Practice on Transparency of AI-Generated Content). Отдельно отмечу, что это пока что лишь первый драфт, финальный документ мы увидим ближе к лету.
Что это за кодекс?
Статья 50 Регламента ЕС по ИИ возлагает на Европейский AI Office обязанность по разработке кодексов практик, которые помогают операторам систем и моделей ИИ соблюдать законодательные требования. В данном случае кодекс направлен на соблюдение требований главы VI Регламента о прозрачности для отдельных операторов систем и моделей ИИ.
Из чего состоит кодекс?
Документ состоит из двух разделов: первый – для поставщиков, второй – для эксплуатантов, что позволяет совмещать разные технические и визуальные требования внутри всей цепочки поставки.
Раздел 1: Правила для поставщиков (providers) систем ИИ
Главная цель – внедрить машиночитаемую маркировку и обеспечить детектируемость синтетического контента.
Основные обязательства:
- Поставщики должны внедрить многоуровневую маркировку: метаданные с цифровой подписью, водяные знаки, фингерпринтинг/логирование. Маркировка должна фиксировать всю цепочку происхождения контента (provenance chain) – от полностью созданного системами ИИ до частично обработанного с помощью систем ИИ. Для открытых моделей маркировка внедряется на уровне параметров модели.
- Дополнительно внедряются методы форензического обнаружения (механизмы, определяющие генерацию даже без активной маркировки, анализируя артефакты генерации).
- Поставщики должны предоставлять бесплатные инструменты верификации (API/интерфейсы) и запрещать удаление маркировки в своих политиках. Также требуется тестирование методов в реальных условиях и обучение персонала.
Раздел 2: Правила для эксплуатантов (deployers) систем ИИ
Главная цель – сделать дипфейки и сгенерированный текст, опубликованный с целью информирования общественности, легко распознаваемыми для граждан.
Основные обязательства:
- Эксплуатанты должны ставить видимую метку на контенте. Кодекс вводит двухуровневую классификацию контента: полностью сгенерированный (fully AI-generated) и ИИ-ассистированный (AI-assisted).
- Пока единая метка ЕС не выработана – используется аббревиатура на языках стран-членов (AI, KI, IA). В перспективе должна быть создана интерактивная иконка с информацией о том, что именно сгенерировано. В скриншотах можно посмотреть, какие примеры рассматриваются рабочими группами.
- Для дипфейков критерии зависят от модальности: постоянная иконка для видео, звуковой дисклеймер для аудио, неинтрузивное размещение для художественных произведений.
Важное исключение для текстов: если контент прошел человеческий редакторский контроль и за публикацию несет ответственность конкретное лицо, а видимая маркировка не требуется.