С 15 июля в Китае вступают в силу масштабные временные правила, регулирующие сервисы на основе искусственного интеллекта, которые имитируют личность человека и поддерживают устойчивое эмоциональное взаимодействие. Этот шаг стал логичным продолжением курса Пекина на тотальный контроль за цифровыми технологиями, и первые последствия уже налицо: ByteDance и Alibaba начали массово отключать функции пользовательских ИИ-агентов в своих флагманских продуктах Doubao и Qwen.
Что нового в регулировании
Документ, подписанный 10 апреля сразу пятью ведомствами — от Администрации киберпространства до Министерства общественной безопасности, — вводит жесткие требования для всех сервисов, способных вести «очеловеченный» диалог. Главное: пользователь должен четко знать, что общается с машиной, а не с человеком. Если система замечает признаки чрезмерной зависимости, она обязана выводить дополнительные предупреждения. При непрерывном использовании дольше двух часов сервис обязан напоминать о времени сессии.
Особое внимание уделено кризисным ситуациям. Если ИИ выявляет у пользователя признаки самоповреждения, суицидальных намерений или значительных финансовых потерь, провайдер обязан вмешаться — вплоть до связи с опекуном или экстренным контактом. Для несовершеннолетних введен полный запрет на виртуальные близкие отношения, включая родственников или партнеров. Для детей младше 14 лет любое «очеловеченное» взаимодействие требует согласия родителей.
ByteDance и Alibaba: превентивный удар
ИИ-ассистент Doubao с 15 июля отключает функцию ИИ-агентов, а после 15 октября все связанные данные будут безвозвратно удалены. Alibaba Cloud идет еще дальше: уже 10 июля Qwen отключает «очеловеченных интерактивных агентов», а 15 июля прекращает работу всех агентских сервисов. Пользователи потеряют доступ к настройкам и истории переговоров. Ранее аналогичные шаги предприняла Tencent в своем Yuanbao.
Реакция пользователей на Weibo была предсказуемо негативной: многие восприняли потерю долгосрочного общения с агентами как личную утрату. Однако регулятор на это не реагирует — в Шанхае уже началась кампания «Цинлан», в ходе которой удалено более 4,87 млн единиц незаконного контента и заблокировано свыше 14 000 несоответствующих ИИ-агентов.
Меры безопасности и штрафы
Компании обязаны проходить оценку безопасности при запуске любого нового «очеловеченного» сервиса или его существенном изменении. Если сервис достигает 1 млн зарегистрированных пользователей или 100 000 активных клиентов в месяц, оценка становится обязательной. За нарушения предусмотрены предупреждения, приостановка регистрации, блокировка функций и штрафы до 200 000 юаней (около $29 500).
Мой анализ: Китай демонстрирует, что регулирование ИИ-компаньонов становится не просто вопросом этики, а вопросом национальной безопасности и общественного здоровья. Для мирового рынка это сигнал: если Китай — крупнейший рынок ИИ-услуг — закручивает гайки, аналогичные меры могут последовать и в других юрисдикциях. Инвесторам и разработчикам стоит готовиться к глобальному ужесточению правил для эмоционального ИИ, что может серьезно изменить ландшафт индустрии в ближайшие 12–18 месяцев.