TikTok тестирует детектор дипфейков: как платформа будет защищать блогеров от ИИ-копий
Социальная платформа TikTok запускает тестирование нового инструмента безопасности — Likeness Detection. Этот опциональный механизм предназначен для обнаружения контента, сгенерированного искусственным интеллектом, который использует лицо создателя без его согласия. На данный момент функция доступна ограниченной группе авторов из США.
Инструмент работает следующим образом: система автоматически сканирует платформу на предмет видео и изображений, созданных с помощью ИИ, где присутствует лицо конкретного блогера. При обнаружении такого контента автор получает уведомление и может подать жалобу на дипфейк или поддельный аккаунт.
Процедура верификации
Для активации функции необходимо пройти строгую проверку личности через сервис Jumio. Процесс включает два этапа: селфи в реальном времени и сканирование документа, удостоверяющего личность. Это необходимо для того, чтобы система могла точно сопоставить биометрические данные создателя с контентом, распространяемым в сети.
Важно отметить политику конфиденциальности: компания заявляет, что не хранит копии документов пользователей. Биометрические данные используются исключительно для поиска совпадений и не передаются третьим лицам. Это снижает риски утечки чувствительной информации, хотя и вызывает вопросы о долгосрочном хранении биометрических шаблонов.
Экспертное мнение: Данный шаг TikTok — своевременная реакция на лавинообразный рост дипфейков в социальных сетях. Однако эффективность инструмента будет зависеть от скорости обработки жалоб и точности алгоритмов распознавания. В условиях, когда ИИ-генерация становится все более реалистичной, пассивное обнаружение может не успевать за активностью злоумышленников. Платформе потребуется внедрять проактивные меры, включая маркировку всего синтетического контента на этапе загрузки.