Социальная платформа TikTok запускает пилотное тестирование инструмента Likeness Detection, предназначенного для выявления дипфейков и поддельных аккаунтов, использующих внешность создателей контента. На данный момент функция доступна ограниченной группе авторов из США в качестве опционального инструмента.
Как работает система защиты
Инструмент анализирует сгенерированный искусственным интеллектом контент, содержащий лицо конкретного блогера, и позволяет оперативно подать жалобу на дипфейк или мошеннический аккаунт. Для активации функции необходимо пройти верификацию личности через сервис Jumio, которая включает два этапа: селфи в реальном времени и сканирование удостоверяющего документа.
В компании подчеркивают, что не сохраняют копии документов пользователей, а биометрические данные используются исключительно для поиска совпадений. Это важный шаг в сторону баланса между защитой авторских прав и приватностью.
Экспертная оценка ситуации
С моей точки зрения, инициатива TikTok — это своевременный ответ на растущую угрозу цифровых подделок. Рынок уже столкнулся с волной мошенничества, где ИИ-клоны блогеров используются для продвижения скам-проектов и кражи личных данных. Однако эффективность Likeness Detection будет напрямую зависеть от точности алгоритмов и скорости обработки жалоб. Если система сможет работать в реальном времени, это может стать прецедентом для всей индустрии социальных платформ.
Данный шаг также подчеркивает ключевой тренд 2024 года: платформы переходят от пассивного модерирования к активной защите цифровой идентичности создателей. Вопрос в том, насколько масштабным станет внедрение таких инструментов и не приведут ли они к излишней централизации контроля над контентом.