Платформа для коротких видео TikTok запускает тестирование нового инструмента под названием Likeness Detection среди ограниченной группы американских авторов. Эта функция предназначена для обнаружения контента, сгенерированного искусственным интеллектом, который использует лицо конкретного создателя. Система позволяет пользователям находить дипфейки или поддельные аккаунты и подавать жалобы напрямую через интерфейс платформы.
Для активации инструмента авторам необходимо пройти обязательную верификацию личности через сторонний сервис Jumio. Процесс включает в себя создание селфи в реальном времени и сканирование удостоверяющего документа. Важно отметить, что TikTok заявляет о политике нехранения копий документов — биометрические данные используются исключительно для поиска совпадений с потенциальными дипфейками, а не для долгосрочного хранения в базе платформы.
Как это работает?
Механизм Likeness Detection анализирует визуальные и поведенческие характеристики лица автора, сравнивая их с контентом, загруженным на платформу. При обнаружении совпадений с ИИ-сгенерированными материалами система автоматически маркирует такие видео и предоставляет создателю возможность подать жалобу. Это особенно актуально в условиях роста числа дипфейков, которые могут наносить репутационный ущерб или использоваться для мошенничества.
С моей точки зрения, этот шаг TikTok является своевременным, но вызывает вопросы о масштабах внедрения. Тестирование на небольшой группе авторов из США — лишь первый этап. Проблема дипфейков становится критической для индустрии, где визуальный контент является основным активом. Однако эффективность системы будет зависеть от точности алгоритмов и скорости реагирования на жалобы. Кроме того, использование стороннего верификатора Jumio может стать точкой уязвимости для конфиденциальности данных, несмотря на обещания платформы.
Аналитический комментарий: Внедрение Likeness Detection — это не только инструмент защиты авторов, но и прецедент для всей индустрии соцсетей. В ближайшие годы мы увидим аналогичные решения от других платформ, так как регулирование ИИ-контента становится неизбежным. Однако главный вызов — баланс между защитой конфиденциальности и эффективностью борьбы с дипфейками.