🇪🇺 Европа хочет радикально изменить правила для детей в интернете
Еврокомиссия представила проект EU KIDS Act. Это новый регламент о защите несовершеннолетних в цифровой среде. Если его примут в нынешнему виде, серьёзные изменения ждут соцсети, видеоплатформы, онлайн-игры, магазины приложений, операционные системы и AI-продукты. Причём правила будут распространяться и на компании за пределами ЕС, если их услуги доступны европейским пользователям.
🔞 Одно из главных нововведений - фактическое ограничение доступа к ряду соцсетей и видеоплатформ детям до 15 лет. Если сервис использует профилирование, алгоритмические рекомендации, бесконечную ленту, взаимодействие с незнакомыми пользователями, стримы и другие потенциально рискованные функции, аккаунт пользователя младше 15 лет по общему правилу создавать будет нельзя. Для детей от 13 до 15 лет родители смогут создать специальный ограниченный аккаунт - например, с дневным лимитом использования не более одного часа и возможностью контролировать новые контакты.
📱 Одновременно вводится принцип safety by design: сервис изначально должен быть настроен так, чтобы им было безопасно пользоваться несовершеннолетнему. Для соцсетей это означает отключённые по умолчанию геолокацию, доступ к камере и микрофону, рекомендации новых аккаунтов и push-уведомления. Незнакомые пользователи не должны просто так писать ребёнку, а его контент по умолчанию должен быть недоступен посторонним.
♾️ Отдельно ЕС взялся за так называемый addictive design - механики, которые специально заставляют пользователя проводить в приложении как можно больше времени. Под удар попадают бесконечная выдача контента без пауз, автоматическое воспроизведение, навязчивые уведомления и механики, которые награждают ребёнка за регулярное возвращение в сервис. Платформы должны будут предусмотреть ограничения времени использования и перерывы, в том числе с учётом времени сна и учёбы.
🤖 Очень интересный блок посвящён рекомендательным алгоритмам. Платформы должны будут в первую очередь учитывать явно указанные интересы ребёнка. Рекомендации на основании его скрытого поведенческого профиля должны быть отключены. Использовать для таких рекомендаций данные ребёнка, собранные за пределами самого сервиса, тоже нельзя.
💬 Отдельный режим вводится для AI-компаньонов и чатботов вроде ChatGPT. Они не должны использовать дизайн, способный формировать у ребёнка эмоциональную зависимость, а информация из предыдущих разговоров несовершеннолетнего по умолчанию не должна использоваться в следующих беседах. Перед запуском разработчики должны будут тестировать такие системы на риски для физического и психического благополучия детей, а затем отслеживать новые риски уже после выхода продукта. Если чатбот встроен, например, в соцсеть или игру, его нельзя автоматически включать для несовершеннолетнего или специально подталкивать ребёнка к его использованию.
🎮 Достанется и игровой индустрии. Игры должны будут ограничивать механики, которые заставляют игроков проводить в них больше времени, предлагать родительский контроль и безопасные настройки общения. Для покупок внутри сервисов стоимость виртуальной валюты нужно будет показывать и в обычной валюте, а механики со случайным вознаграждением, способные провоцировать импульсивные траты, предполагается ограничить. Магазины приложений, в свою очередь, должны будут присваивать приложениям возрастной рейтинг, и ограничивать скачивание для детей, чей профиль этому возрасту не соответствует.
🪪 Всё это невозможно реализовать без проверки возраста. Поэтому проект вводит общеевропейскую систему age assurance. В соцсетях предполагается использовать сертифицированные в ЕС способы подтверждения возраста, в том числе совместимые с European Digital Identity Wallet. При этом авторы пытаются решить очевидную проблему приватности: сервис в идеале должен получать только подтверждение вроде «пользователю больше 15 лет», а не его паспорт и дату рождения. Проект прямо требует минимизации данных чтобы проверка возраста не превращалась в ещё один инструмент слежки и профилирования.
💶 Контроль предлагается встроить в уже существующую систему DSA, AI Act и GDPR. А крупнейшим платформам придётся ещё и готовить отдельный план соответствия и за свой счёт проходить независимый аудит на предмет того, как они выполняют требования по защите детей.
В общем, ЕС предлагает фактически отдельную архитектуру цифровых сервисов для несовершеннолетних, которая предполагает отдельный интерфейс, отдельные алгоритмы, отдельные настройки приватности, ограничения времени, специальный режим для AI и обязательную проверку возраста пользователя. Если проект примут без изменений, многим крупным онлайн-сервисам придётся серьёзно переделывать свои продукты под европейский рынок.
Еврокомиссия представила проект EU KIDS Act. Это новый регламент о защите несовершеннолетних в цифровой среде. Если его примут в нынешнему виде, серьёзные изменения ждут соцсети, видеоплатформы, онлайн-игры, магазины приложений, операционные системы и AI-продукты. Причём правила будут распространяться и на компании за пределами ЕС, если их услуги доступны европейским пользователям.
🔞 Одно из главных нововведений - фактическое ограничение доступа к ряду соцсетей и видеоплатформ детям до 15 лет. Если сервис использует профилирование, алгоритмические рекомендации, бесконечную ленту, взаимодействие с незнакомыми пользователями, стримы и другие потенциально рискованные функции, аккаунт пользователя младше 15 лет по общему правилу создавать будет нельзя. Для детей от 13 до 15 лет родители смогут создать специальный ограниченный аккаунт - например, с дневным лимитом использования не более одного часа и возможностью контролировать новые контакты.
📱 Одновременно вводится принцип safety by design: сервис изначально должен быть настроен так, чтобы им было безопасно пользоваться несовершеннолетнему. Для соцсетей это означает отключённые по умолчанию геолокацию, доступ к камере и микрофону, рекомендации новых аккаунтов и push-уведомления. Незнакомые пользователи не должны просто так писать ребёнку, а его контент по умолчанию должен быть недоступен посторонним.
♾️ Отдельно ЕС взялся за так называемый addictive design - механики, которые специально заставляют пользователя проводить в приложении как можно больше времени. Под удар попадают бесконечная выдача контента без пауз, автоматическое воспроизведение, навязчивые уведомления и механики, которые награждают ребёнка за регулярное возвращение в сервис. Платформы должны будут предусмотреть ограничения времени использования и перерывы, в том числе с учётом времени сна и учёбы.
🤖 Очень интересный блок посвящён рекомендательным алгоритмам. Платформы должны будут в первую очередь учитывать явно указанные интересы ребёнка. Рекомендации на основании его скрытого поведенческого профиля должны быть отключены. Использовать для таких рекомендаций данные ребёнка, собранные за пределами самого сервиса, тоже нельзя.
💬 Отдельный режим вводится для AI-компаньонов и чатботов вроде ChatGPT. Они не должны использовать дизайн, способный формировать у ребёнка эмоциональную зависимость, а информация из предыдущих разговоров несовершеннолетнего по умолчанию не должна использоваться в следующих беседах. Перед запуском разработчики должны будут тестировать такие системы на риски для физического и психического благополучия детей, а затем отслеживать новые риски уже после выхода продукта. Если чатбот встроен, например, в соцсеть или игру, его нельзя автоматически включать для несовершеннолетнего или специально подталкивать ребёнка к его использованию.
🎮 Достанется и игровой индустрии. Игры должны будут ограничивать механики, которые заставляют игроков проводить в них больше времени, предлагать родительский контроль и безопасные настройки общения. Для покупок внутри сервисов стоимость виртуальной валюты нужно будет показывать и в обычной валюте, а механики со случайным вознаграждением, способные провоцировать импульсивные траты, предполагается ограничить. Магазины приложений, в свою очередь, должны будут присваивать приложениям возрастной рейтинг, и ограничивать скачивание для детей, чей профиль этому возрасту не соответствует.
🪪 Всё это невозможно реализовать без проверки возраста. Поэтому проект вводит общеевропейскую систему age assurance. В соцсетях предполагается использовать сертифицированные в ЕС способы подтверждения возраста, в том числе совместимые с European Digital Identity Wallet. При этом авторы пытаются решить очевидную проблему приватности: сервис в идеале должен получать только подтверждение вроде «пользователю больше 15 лет», а не его паспорт и дату рождения. Проект прямо требует минимизации данных чтобы проверка возраста не превращалась в ещё один инструмент слежки и профилирования.
💶 Контроль предлагается встроить в уже существующую систему DSA, AI Act и GDPR. А крупнейшим платформам придётся ещё и готовить отдельный план соответствия и за свой счёт проходить независимый аудит на предмет того, как они выполняют требования по защите детей.
В общем, ЕС предлагает фактически отдельную архитектуру цифровых сервисов для несовершеннолетних, которая предполагает отдельный интерфейс, отдельные алгоритмы, отдельные настройки приватности, ограничения времени, специальный режим для AI и обязательную проверку возраста пользователя. Если проект примут без изменений, многим крупным онлайн-сервисам придётся серьёзно переделывать свои продукты под европейский рынок.