👩🎓 Китай начал судить искусственный интеллект
7 сентября Верховный народный суд КНР опубликовал «Мнение о рассмотрении в соответствии с законом дел по спорам, связанных с ИИ». Это первый в мире системный акт судебного толкования по делам, связанным с ИИ, изданный высшим судебным органом страны.
Основная цель документа — систематизировать и унифицировать судебную практику по делам, связанным с ИИ, в условиях отсутствия в Китае отдельного комплексного закона об ИИ. Поэтому документ опирается на уже существующее китайское законодательство: Гражданский кодекс, Закон о защите персональных данных, Закон об авторском праве и др.
Документ состоит из 5 частей и 24 статей, в которых выделены 3 базовых принципа: человек прежде всего, регулирование не должно тормозить развитие ИИ, безопасность как нижняя граница.
Верховный народный суд КНР фиксирует: по умолчанию применяется ответственность при наличии вины. При определении вины суд должен смотреть на конкретный сценарий использования ИИ, степень автономности, потенциальный риск, масштаб ущерба, возможность предотвращения вреда, возможность пользователя предвидеть последствия.
Что особенно интересно в документе?
😀 Без согласия человека нельзя создавать и распространять его узнаваемый цифровой образ или голос.
😀 Суд отдельно рассматривает использование ИИ для злонамеренного раскрытия личности человека в интернете (доксинг).
😀 Уделяется внимание big data price discrimination — когда постоянному клиенту предлагают менее выгодные условия/цены из-за анализа его поведения.
😀 Если ИИ галлюцинирует, это не означает, что автоматически виновен провайдер.
😀 В спорах по авторским правам суд должен обращать внимание на "внутренности" ИИ-системы (промпты, источники обучаемых данных, тип ИИ-сервиса и т.д.)
😀 Суд различает open source и проприетарные модели — архитектура влияет на юридическую ответственность.
😀 Стороны судебного процесса могут использовать ИИ для подготовки к процессу, но они обязаны предупредить об этом суд и верифицировать результат.
Этот документ нельзя назвать просто "правилами для ИИ". По сути, Китай начинает юридически относиться к ИИ не как к единому субъекту, а как к сложной цепочке участников, где каждый получает свою долю ответственности.
Китай не пытается запретить "опасный ИИ". Поэтому этот документ интереснее обычного всеобъемлющего закона об ИИ: он показывает, как право начинает подстраиваться под технологию, которая сама принимает решения, генерирует контент, создает доказательства и сама является источником новых доказательств.
💬 Тест Тьюринга. События в сфере ИИ. Подписаться
7 сентября Верховный народный суд КНР опубликовал «Мнение о рассмотрении в соответствии с законом дел по спорам, связанных с ИИ». Это первый в мире системный акт судебного толкования по делам, связанным с ИИ, изданный высшим судебным органом страны.
Основная цель документа — систематизировать и унифицировать судебную практику по делам, связанным с ИИ, в условиях отсутствия в Китае отдельного комплексного закона об ИИ. Поэтому документ опирается на уже существующее китайское законодательство: Гражданский кодекс, Закон о защите персональных данных, Закон об авторском праве и др.
И это, пожалуй, главная характеристика: Китай не ждет появления отдельного закона об ИИ, чтобы начать формировать судебные правила для ИИ. Он начинает это делать через действующие законы в конкретных судебных сценариях.
Документ состоит из 5 частей и 24 статей, в которых выделены 3 базовых принципа: человек прежде всего, регулирование не должно тормозить развитие ИИ, безопасность как нижняя граница.
Верховный народный суд КНР фиксирует: по умолчанию применяется ответственность при наличии вины. При определении вины суд должен смотреть на конкретный сценарий использования ИИ, степень автономности, потенциальный риск, масштаб ущерба, возможность предотвращения вреда, возможность пользователя предвидеть последствия.
Это одна из самых главных вещей в документе — ответственность пользователя, разработчика, поставщика не должна быть одинаковой во всех случаях.
Что особенно интересно в документе?
😀 Без согласия человека нельзя создавать и распространять его узнаваемый цифровой образ или голос.
😀 Суд отдельно рассматривает использование ИИ для злонамеренного раскрытия личности человека в интернете (доксинг).
😀 Уделяется внимание big data price discrimination — когда постоянному клиенту предлагают менее выгодные условия/цены из-за анализа его поведения.
😀 Если ИИ галлюцинирует, это не означает, что автоматически виновен провайдер.
😀 В спорах по авторским правам суд должен обращать внимание на "внутренности" ИИ-системы (промпты, источники обучаемых данных, тип ИИ-сервиса и т.д.)
😀 Суд различает open source и проприетарные модели — архитектура влияет на юридическую ответственность.
😀 Стороны судебного процесса могут использовать ИИ для подготовки к процессу, но они обязаны предупредить об этом суд и верифицировать результат.
Этот документ нельзя назвать просто "правилами для ИИ". По сути, Китай начинает юридически относиться к ИИ не как к единому субъекту, а как к сложной цепочке участников, где каждый получает свою долю ответственности.
Китай не пытается запретить "опасный ИИ". Поэтому этот документ интереснее обычного всеобъемлющего закона об ИИ: он показывает, как право начинает подстраиваться под технологию, которая сама принимает решения, генерирует контент, создает доказательства и сама является источником новых доказательств.
💬 Тест Тьюринга. События в сфере ИИ. Подписаться