Китай готовится к кардинальному ужесточению регулирования в сфере искусственного интеллекта. С 15 июля вступают в силу временные меры, разработанные пятью ключевыми ведомствами, включая Администрацию киберпространства и Министерство промышленности. Новый регламент нацелен на сервисы, которые с помощью ИИ имитируют человеческую личность, стиль мышления и поддерживают устойчивое эмоциональное взаимодействие. Это прямой сигнал рынку: эпоха бесконтрольных «виртуальных друзей» и «цифровых партнеров» подходит к концу.

Что именно меняется?

Правила четко определяют, что под регулирование подпадают только те системы, которые создают иллюзию живого общения, включая текстовые, голосовые и видео-интерфейсы. Инструменты для работы, образования или техподдержки, не предполагающие эмоциональной привязки, остаются вне зоны действия. Ключевые требования: обязательное уведомление пользователя о том, что он общается с ИИ, а не с человеком; блокировка сессий дольше двух часов с напоминанием о времени; и, что особенно важно, простой механизм выхода — сервис не имеет права удерживать пользователя.

Защита несовершеннолетних и кризисное вмешательство

Отдельный, и, на мой взгляд, самый значимый блок, касается несовершеннолетних. Им полностью запрещено предоставлять функции «виртуальных близких» — родственников или партнеров. Для детей младше 14 лет любое взаимодействие с очеловеченным ИИ требует согласия родителей. Кроме того, система обязана выявлять признаки суицидальных намерений, самоповреждения или сильных эмоциональных реакций и немедленно вмешиваться, связываясь с опекуном или экстренными службами. Это не просто регулирование, а попытка взять под контроль психологическое воздействие технологии.

Реакция гигантов: ByteDance и Alibaba сворачивают функции

Крупнейшие игроки уже начали адаптацию. ИИ-ассистент Doubao от ByteDance с 15 июля отключает функцию пользовательских ИИ-агентов, а все данные, включая историю общения, будут безвозвратно удалены к 15 октября. Alibaba Cloud, в свою очередь, прекращает работу «очеловеченных интерактивных агентов» в Qwen с 10 июля, а к 15 июля полностью закроет весь агентский сервис. Tencent также убрала аналогичную функцию из Yuanbao. Реакция пользователей в соцсетях, как и ожидалось, негативная — многие воспринимают потерю долгосрочных «виртуальных отношений» как личную утрату.

Правоприменение и штрафы

Подготовка к enforcement началась заранее. В Шанхае в рамках кампании «Цинлан» уже удалено более 4,87 млн единиц незаконного контента и снято свыше 14 000 несоответствующих ИИ-агентов. За нарушение новых правил предусмотрены предупреждения, блокировка функций, приостановка регистрации пользователей, а также штрафы — до 100 000 юаней (около $14 730) за стандартные нарушения и до 200 000 юаней ($29 459) в случае причинения вреда жизни и здоровью. Кроме того, любой сервис, достигший 1 млн зарегистрированных пользователей или 100 000 активных клиентов в месяц, обязан пройти обязательную оценку безопасности.

Мой комментарий: Китай в очередной раз демонстрирует, что технологический прогресс не может существовать вне этических и правовых рамок. Этот прецедент, скорее всего, будет взят на вооружение и другими юрисдикциями, что в долгосрочной перспективе приведет к глобальному замедлению развития «эмоциональных» ИИ-продуктов, но одновременно повысит доверие к безопасным решениям. Рынок вынужден будет пересмотреть свои приоритеты: от «максимального вовлечения» к «ответственному взаимодействию».