Изучаем второй вариант Европейского Кодекса практик по прозрачности синтетического контента (часть 1)
Друзья, на прошлой неделе был выпущен второй вариант текста Кодекса практик по прозрачности контента, созданного с помощью ИИ, самое время его изучить. Разбор первого варианта текста можно найти тут.
Раздела также осталось два, но сами требования претерпели некоторые изменения и стали менее тягостыми для бизнеса.
Раздел 1: Правила для поставщиков (providers) систем ИИ.
Общая логика многоуровневой маркировки сохранена, но требования стали более лаконичными и некоторые положения стали опциональным.
Требование минимум двух обязательных слоев активной маркировки теперь зафиксировано в тексте прямо (Субмера 1.1.1 – метаданные с цифровой подписью и временной меткой; Субмера 1.1.2 – скрытые водяные знаки, интегрированные в контент).
При этом появился способ импользования иных методик маркировки: если поставщик сможет доказать на основе независимо верифицированных бенчмарков, что альтернативные способы маркировки (в том числе одноуровневая) обеспечивает равный или более высокий уровень соответствия четырем требованиям Регламента ЕС по ИИ.
Фингерпринтинг и логирование (Субмера 1.1.3) переведены в разряд опциональных дополнительных мер. Обеспечение прозрачности происхождения контента внутри цепочки поставки (Мера 1.3) теперь также прямо обозначена как опциональная мера. Поставщикам рекомендовано, но не предписано фиксировать в метаданных идентификатор системы и модели, номер версии, название компании-поставщика, временную метку генерации, а для ИИ-модифицированного контента – тип операции (например, удаление объекта).
Обязательство 3 превратилось из общих принципов в структурированный набор мер с конкретными метриками. Для оценки надежности (Мера 3.2) теперь прямо указаны показатели: доля ложноположительных результатов, доля ложноотрицательных результатов, коэффициент битовых ошибок при декодировании информации.
Для поставщиков систем ИИ общего назначения требуется демонстрировать надежность в разных контекстах применения и модальностях.
Требования к робастности (Мера 3.3) теперь разделены на два уровня: устойчивость к типичным операциям обработки (зеркалирование, кроппинг, сжатие, перефразирование, скриншоты и т.д.) и устойчивость к состязательным атакам (копирование, удаление, регенерация, модификация, амортизационные атаки). Введено требование адаптивного моделирования угроз.
В требовании по интероперабельности (Мера 3.4) появилось нововведение: предложение о создании совместного с Комиссией репозитория публичных водяных знаков, адресов метаданных и детекторов, а также разработка интерфейса обнаружения синтетического контента.
Также интересно, что если поставщик, разработавший собственный механизм детекции, прекращает деятельность или перестает его поддерживать, он обязан передать этот механизм компетентным органам надзора за рынком. Это нужня для того, чтобы ранее сгенерированный контент оставался идентифицируемым.
Друзья, на прошлой неделе был выпущен второй вариант текста Кодекса практик по прозрачности контента, созданного с помощью ИИ, самое время его изучить. Разбор первого варианта текста можно найти тут.
Раздела также осталось два, но сами требования претерпели некоторые изменения и стали менее тягостыми для бизнеса.
Раздел 1: Правила для поставщиков (providers) систем ИИ.
Общая логика многоуровневой маркировки сохранена, но требования стали более лаконичными и некоторые положения стали опциональным.
Требование минимум двух обязательных слоев активной маркировки теперь зафиксировано в тексте прямо (Субмера 1.1.1 – метаданные с цифровой подписью и временной меткой; Субмера 1.1.2 – скрытые водяные знаки, интегрированные в контент).
При этом появился способ импользования иных методик маркировки: если поставщик сможет доказать на основе независимо верифицированных бенчмарков, что альтернативные способы маркировки (в том числе одноуровневая) обеспечивает равный или более высокий уровень соответствия четырем требованиям Регламента ЕС по ИИ.
Фингерпринтинг и логирование (Субмера 1.1.3) переведены в разряд опциональных дополнительных мер. Обеспечение прозрачности происхождения контента внутри цепочки поставки (Мера 1.3) теперь также прямо обозначена как опциональная мера. Поставщикам рекомендовано, но не предписано фиксировать в метаданных идентификатор системы и модели, номер версии, название компании-поставщика, временную метку генерации, а для ИИ-модифицированного контента – тип операции (например, удаление объекта).
Обязательство 3 превратилось из общих принципов в структурированный набор мер с конкретными метриками. Для оценки надежности (Мера 3.2) теперь прямо указаны показатели: доля ложноположительных результатов, доля ложноотрицательных результатов, коэффициент битовых ошибок при декодировании информации.
Для поставщиков систем ИИ общего назначения требуется демонстрировать надежность в разных контекстах применения и модальностях.
Требования к робастности (Мера 3.3) теперь разделены на два уровня: устойчивость к типичным операциям обработки (зеркалирование, кроппинг, сжатие, перефразирование, скриншоты и т.д.) и устойчивость к состязательным атакам (копирование, удаление, регенерация, модификация, амортизационные атаки). Введено требование адаптивного моделирования угроз.
В требовании по интероперабельности (Мера 3.4) появилось нововведение: предложение о создании совместного с Комиссией репозитория публичных водяных знаков, адресов метаданных и детекторов, а также разработка интерфейса обнаружения синтетического контента.
Также интересно, что если поставщик, разработавший собственный механизм детекции, прекращает деятельность или перестает его поддерживать, он обязан передать этот механизм компетентным органам надзора за рынком. Это нужня для того, чтобы ранее сгенерированный контент оставался идентифицируемым.