Платформа коротких видео TikTok приступила к ограниченному тестированию нового инструмента под названием Likeness Detection. На данный момент функция доступна лишь небольшой группе авторов из США.
Суть разработки — автоматический поиск контента, созданного нейросетями, в котором используется лицо конкретного создателя. Если система находит дипфейк или поддельный аккаунт, блогер получает возможность оперативно подать жалобу. Это шаг в борьбе с растущей угрозой цифровых подделок и мошенничества с использованием известных лиц.
Для активации инструмента требуется пройти двухэтапную верификацию личности через сервис Jumio. Процедура включает селфи в реальном времени и сканирование удостоверяющего документа. В компании особо подчеркивают, что не хранят копии документов, а биометрические данные используются исключительно для поиска совпадений с видео на платформе.
Это важный прецедент для всей индустрии. С ростом качества генеративных моделей отличить реальное видео от синтезированного становится всё сложнее. Подобные меры, хоть и на добровольной основе, создают прецедент для внедрения обязательной верификации авторов, чьи лица могут быть использованы без их согласия.
На мой взгляд, успех Likeness Detection будет зависеть от скорости работы алгоритмов и их способности отличать легитимные пародии от злонамеренных подделок. Если система докажет свою эффективность, мы, вероятно, увидим аналогичные решения и на других крупных платформах уже в ближайшие кварталы.