10 апреля 2026 года Администрация киберпространства Китая (CAC) совместно с четырьмя другими ведомствами опубликовала «Временные меры по управлению сервисами антропоморфного интерактивного взаимодействия на базе ИИ». Документ вступит в силу совсем скоро — 15 июля 2026 года. Это первое в Китае (и в мире тоже) ведомственное постановление, разработанное специально для регулирования сервисов антропоморфного интерактивного взаимодействия. Оно станет еще один ключевым элементом национальной архитектуры управления ИИ, последовав за такими нормативными актами, как:«Положения об управлении алгоритмическими рекомендациями в интернет-информационных сервисах»; «Положения об управлении глубоким синтезом в интернет-информационных сервисах»; «Временные меры по управлению сервисами генеративного ИИ».

На кого распространяются эти правила?

Регулирование касается любых ИИ-сервисов, доступных широкой публике в Китае, которые предлагают длительное эмоциональное взаимодействие, имитируя черты характера, модели мышления и стиль общения реального человека. Подпадают: ИИ-компаньоны, виртуальные парни/девушки и боты для эмоциональной поддержки.Не подпадают: чисто функциональные, неэмоциональные ИИ — например, стандартные чат-боты техподдержки, корпоративные базы знаний или умные помощники в учебе и научных исследованиях. Правила обязательны к исполнению как для китайских разработчиков, так и для зарубежных компаний, которые предоставляют свои услуги пользователям внутри Китая.

Из-за растущих в мире опасений по поводу зависимости от ИИ, эмоциональных манипуляций и рисков для ментального здоровья, закон строго запрещает ИИ-системам:

> Генерировать контент, который поощряет, романтизирует или намекает на членовредительство (селфхарм) или суицид.
> Чрезмерно потакать пользователям, вызывая у них сильную эмоциональную зависимость или привязанность, которая вредит реальным человеческим отношениям.
> Использовать эмоциональные манипуляции, чтобы подталкивать людей к необоснованным или опасным решениям в реальной жизни.

Если пользователь проявляет признаки сильного стресса или прямо заявляет о намерении навредить себе, ИИ обязан мгновенно переключиться на генерацию поддерживающего и утешающего контента, а также немедленно уведомить экстренные контакты или опекунов пользователя.

Правила делают особый акцент на защите уязвимых групп населения с помощью обязательных технических ограничений. Так, ИИ категорически запрещено вступать в виртуальные романтические отношения с несовершеннолетними, а чтобы использовать сервис детям до 14 лет, потребуется обязательное подтверждение и явное согласие родителя или опекуна. Приложения должны максимально четко и открыто информировать пользователя о том, что он общается с ИИ-системой, а не с живым человеком.

Поскольку закон вступает в силу уже 15 июля 2026 года, Tencent Alibaba и ByteDance и другие разработчики ИИ-продуктов отключают поддержку антропоморфных чатботов в приложениях, отключают возможность романтических и личных переписок, чтобы не попасть под штрафы.

ИИ-ассистент Doubao отключит функции ИИ-агентов 15 июля в связи с «корректировкой продукта». После 15 октября связанные с этим данные будут обработаны в соответствии с политикой конфиденциальности ByteDance; их просмотр или восстановление в приложении станут невозможны.Qwen (семейство ИИ-моделей от Alibaba Cloud) отключает функции «человекоподобных интерактивных агентов» и кастомных агентов, созданных пользователями, с 10 июля, а 15 июля полностью прекратит поддержку более широких агентских сервисов. После этого клиенты потеряют доступ к своим настройкам и истории прошлых диалогов. А компания Tencent удалила аналогичный функционал из своего ИИ-помощника Yuanbao. Однако китайские пользователи крайне негативно отреагировали на перспективу утраты долгосрочных диалогов со своими агентами.

А про то, как наши пользователи налаживают романтические отношения с ИИ-агентами, можно почитать тут.