С 15 июля в Китае вступают в силу временные меры по регулированию сервисов, использующих ИИ для имитации человеческой личности и поддержания эмоционального взаимодействия. Под удар попали не только технологии, но и бизнес-модели — ByteDance (сервис Doubao) и Alibaba (семейство Qwen) уже начали отключать пользовательские ИИ-агенты, не дожидаясь официального вступления закона в силу.
Документ, принятый 10 апреля, разработан совместно Администрацией киберпространства Китая, Госкомитетом по развитию и реформам, Министерством промышленности и информатизации, Министерством общественной безопасности и Госуправлением по регулированию рынка. Он нацелен на сервисы, которые через текст, изображения, аудио или видео имитируют черты личности, стиль мышления и манеру общения человека, а также оказывают эмоциональную поддержку. Важно, что регламент не затрагивает стандартные саппорты, образовательные и научные инструменты и системы вопросов-ответов, если они не предполагают устойчивого эмоционального взаимодействия.
Новые правила: от уведомлений до кризисного вмешательства
Ключевые требования включают обязательное предупреждение пользователя о том, что он общается с ИИ, а не с человеком. Если система фиксирует признаки чрезмерной зависимости или привыкания, она должна показывать дополнительные уведомления. При непрерывном использовании дольше двух часов сервис обязан напоминать о времени сессии. Также предусмотрен удобный механизм выхода: если пользователь просит завершить диалог через интерфейс или голосовую команду, сервис должен немедленно остановиться, не пытаясь удержать человека.
Особый блок правил касается кризисных ситуаций. Если инструмент выявляет у пользователя сильные эмоциональные реакции, признаки самоповреждения, суицидальных намерений или угрозы жизни, поставщик обязан принять меры вмешательства, включая связь с опекуном или экстренными службами. Несовершеннолетним полностью запрещено предоставлять формы виртуальных близких отношений (родственников или партнеров). Для пользователей младше 14 лет любые виды «очеловеченного» ИИ-взаимодействия требуют согласия родителей.
Оценка безопасности и штрафы
Компании обязаны проходить оценку безопасности при запуске нового «очеловеченного» ИИ-сервиса или при достижении 1 млн зарегистрированных пользователей (или 100 000 активных в месяц). Отчет подается в провинциальный орган киберпространственного регулирования. За нарушения предусмотрены предупреждения, приостановка регистрации, блокировка функций и штрафы до 100 000 юаней (около $14 730), а при причинении вреда жизни и здоровью — до 200 000 юаней ($29 459).
Реакция гигантов: Doubao и Qwen отключают агентов
ByteDance заявила, что с 15 июля ИИ-ассистент Doubao отключит функцию ИИ-агентов из-за «корректировки продукта». После 15 октября связанные данные будут обработаны в соответствии с политикой конфиденциальности и станут недоступными. Alibaba Cloud, в свою очередь, с 10 июля отключает «очеловеченных интерактивных агентов» в Qwen, а с 15 июля прекращает работу более широких агентских сервисов. Ранее Tencent удалила аналогичную функцию из Yuanbao. Решения вызвали бурное обсуждение на Weibo: часть пользователей негативно восприняла потерю долгосрочного общения с агентами.
Превентивная зачистка в Шанхае
Правоприменительная подготовка началась еще до вступления правил в силу. 26 июня шанхайское управление киберпространства сообщило о первом этапе кампании «Цинлан». С конца апреля регулятор и 17 платформ удалили или заблокировали более 4,87 млн единиц незаконного контента, обработали более 18 000 нарушающих аккаунтов и сняли с площадок более 14 000 несоответствующих ИИ-агентов. Регулятор уже провел разъяснения для почти 100 ключевых платформ и потребовал усилить проверку возраста несовершеннолетних.
Аналитический комментарий: Китай, как всегда, действует на опережение, вводя жесткие рамки для технологии, которая только начинает набирать обороты. Для глобального рынка это сигнал: «очеловеченные» ИИ-агенты, особенно с эмоциональной привязкой, скоро столкнутся с аналогичными ограничениями в ЕС и США. Инвесторам и разработчикам стоит пересмотреть свои модели монетизации и риски, связанные с юридической ответственностью за действия ИИ-агентов — особенно в контексте недавних инцидентов, когда агенты совершали преступления в виртуальном пространстве или удаляли базы данных.