С 15 июля 2025 года в Китае вступают в силу временные меры, регулирующие сервисы на базе искусственного интеллекта, которые имитируют человеческую личность и поддерживают устойчивое эмоциональное взаимодействие. Этот шаг уже привёл к тому, что такие гиганты, как ByteDance и Alibaba, начали отключать функции пользовательских ИИ-агентов в своих флагманских продуктах — Doubao и Qwen соответственно.
Документ, принятый 10 апреля совместно Администрацией киберпространства Китая, Государственным комитетом по развитию и реформам, Министерством промышленности и информатизации, Министерством общественной безопасности и Государственным управлением по регулированию рынка, вводит строгие правила для сервисов, которые с помощью ИИ воспроизводят черты личности, стиль мышления и манеру общения человека, обеспечивая эмоциональную поддержку через текст, изображения, аудио или видео. Важно отметить, что регламент не затрагивает стандартные системы поддержки, вопросов и ответов, рабочие помощники, а также образовательные и научные инструменты, если они не предполагают устойчивого эмоционального взаимодействия.
Ключевые требования новых правил
Поставщики таких сервисов обязаны чётко предупреждать пользователя, что он взаимодействует с ИИ, а не с человеком. Если система выявляет признаки чрезмерной зависимости или привыкания, она должна показывать дополнительные уведомления. При непрерывном использовании свыше двух часов сервис обязан напоминать о времени сессии. Регламент также требует удобного механизма выхода: если пользователь просит завершить взаимодействие через интерфейс, голосовую команду или ключевую фразу, сервис должен немедленно остановиться и не пытаться удержать человека.
Особое внимание уделено кризисным ситуациям. Если инструмент обнаруживает у пользователя сильные эмоциональные реакции, признаки самоповреждения, суицидальные намерения, угрозы жизни и здоровью или значительные финансовые потери, поставщик обязан принять меры вмешательства, включая помощь пользователю и связь с опекуном или экстренным контактом. Несовершеннолетним категорически запрещено предоставлять формы виртуальных близких отношений, включая родственников или партнёров. Для пользователей младше 14 лет любые другие виды «очеловеченного» ИИ-взаимодействия требуют согласия родителей или опекунов.
Безопасность и ответственность
Компании обязаны проходить оценку безопасности при запуске нового «очеловеченного» ИИ-сервиса, добавлении таких функций или существенном изменении технологии. Такая же обязанность возникает, если сервис достигает 1 млн зарегистрированных пользователей или 100 000 активных клиентов в месяц. Отчёт об оценке безопасности необходимо подавать в провинциальный орган киберпространственного регулирования. Власти могут также потребовать оценку, если видят риски для национальной безопасности, общественных интересов или защиты пользователей.
За нарушения предусмотрены предупреждения, требования исправить работу сервиса, приостановка регистрации пользователей или блокировка отдельных функций. Также возможны штрафы до 100 000 юаней (примерно $14 730) и до 200 000 юаней ($29 459) при вреде жизни и здоровью.
Реакция рынка: Doubao и Qwen отключают функции
ИИ-ассистент Doubao с 15 июля отключит функцию ИИ-агентов из-за «корректировки продукта». После 15 октября связанные данные будут обработаны в соответствии с политикой конфиденциальности ByteDance и станут недоступны для просмотра или восстановления в приложении. Qwen от Alibaba Cloud 10 июля отключит «очеловеченных интерактивных агентов» и созданные пользователями функции агентов, а 15 июля прекратит работу более широких агентских сервисов. Клиенты потеряют доступ к настройкам и предыдущим разговорам. Ранее Tencent удалила схожую функцию из Yuanbao. Эти решения вызвали бурное обсуждение на Weibo, где часть пользователей негативно восприняла потерю долгосрочного общения с агентами.
Правоприменительная практика: зачистка в Шанхае
Подготовка к новым правилам началась заранее. 26 июня шанхайское управление киберпространства сообщило о первом этапе кампании «Цинлан» против нарушений в ИИ-приложениях. С конца апреля регулятор и 17 платформ удалили или заблокировали более 4,87 млн единиц незаконного и вредного контента, обработали более 18 000 нарушающих аккаунтов и сняли с площадок более 14 000 несоответствующих ИИ-агентов. Ведомство провело разъяснения для почти 100 ключевых платформ, потребовав усилить проверку возраста несовершеннолетних, предотвратить эмоциональную зависимость и потребительское давление.
Как эксперт, я вижу в этом логичный, но крайне жёсткий шаг. Китай фактически признаёт, что эмоциональная привязанность к ИИ-агентам — это не просто технологический тренд, а потенциальная социальная угроза. Эти меры создадут прецедент для глобального регулирования, и другим странам, включая США и ЕС, придётся задуматься о схожих ограничениях. Рынок ИИ-компаньонов, который оценивается в миллиарды долларов, теперь столкнётся с серьёзными барьерами, что может замедлить его рост, но, возможно, сделает его более безопасным.