Платформа коротких видео TikTok делает важный шаг в борьбе с дипфейками. В настоящее время компания тестирует новый инструмент под названием Likeness Detection — он доступен ограниченной группе авторов из США. Этот опциональный сервис предназначен для автоматического обнаружения контента, созданного искусственным интеллектом, в котором используется лицо конкретного создателя.
Механизм работы выглядит следующим образом. Если алгоритм находит видео или изображение, сгенерированное ИИ и содержащее черты лица автора, платформа предлагает ему возможность подать жалобу на дипфейк или фальшивый аккаунт. Однако для активации этой функции требуется пройти строгую верификацию личности через сторонний сервис Jumio. Процедура включает в себя селфи в реальном времени и скан удостоверяющего документа.
Важно отметить политику конфиденциальности, заявленную компанией. TikTok утверждает, что не хранит копии загруженных документов, а биометрические данные используются исключительно для поиска совпадений с контентом на платформе. Это критически важно в контексте растущих опасений по поводу утечек персональных данных.
Аналитический взгляд эксперта
Данный шаг — логичное развитие политики модерации в эпоху генеративного ИИ. Однако, на мой взгляд, эффективность Likeness Detection будет напрямую зависеть от качества работы алгоритмов распознавания и готовности авторов проходить сложную процедуру верификации. Пока это лишь точечный тест, и масштабирование решения на миллионы пользователей потребует колоссальных вычислительных ресурсов. Тем не менее, это первый значимый прецедент, когда платформа социальных медиа внедряет инструмент, нацеленный именно на защиту от краж лиц, а не просто на маркировку ИИ-контента.