Всего через три дня после громкого запуска компания Meta была вынуждена отозвать одну из ключевых функций своей новой ИИ-модели Muse Image. Как я и предполагал, попытка использовать публичные профили Instagram в качестве источника данных для генерации изображений обернулась серьезным ударом по репутации гиганта.
Напомню, что 7 июля Meta представила Muse Image — первую модель генерации изображений от Meta Superintelligence Labs, интегрированную в Meta AI. Среди заявленных возможностей была опция, позволяющая добавлять в текстовый запрос (промпт) имя публичного аккаунта Instagram. Затем алгоритм обрабатывал открытые фотографии этого пользователя, создавая на их основе новые изображения. Звучало многообещающе, но на деле вызвало шквал критики.
Уже 10 июля компания обновила официальный анонс, сообщив, что данная функция более недоступна. Официальная причина — опция «не оправдала ожиданий пользователей в вопросах приватности». Однако, как показывают события, это мягко сказано. Взрыв негодования был вызван тем, что функция была включена автоматически, без явного согласия владельцев аккаунтов. Актриса Ханна Эйнбиндер публично призвала отключить опцию, а профсоюз SAG-AFTRA выступил с жестким заявлением.
В своем комментарии SAG-AFTRA назвал любой механизм, кроме явного и заметного согласия на использование изображений, «неприемлемым» и «полным просчетом в оценке общественного мнения». Они подчеркнули очевидные опасности и вред, присущие такому использованию. Я полностью разделяю эту позицию: в эпоху deepfake и цифровых манипуляций, автоматическое включение такой функции — это не ошибка, а грубейшее нарушение цифровых прав.
Важно отметить, что сама модель Muse Image как продукт никуда не делась. Она по-прежнему доступна в Meta AI для генерации и редактирования изображений по обычным текстовым запросам и загруженным фотографиям. Более того, Meta сообщила, что Muse Image используется в более чем 30 новых ИИ-эффектах для Instagram Stories и в чатах WhatsApp с Meta AI в ограниченном числе стран.
Мнение эксперта: Этот инцидент — яркий пример того, как погоня за инновациями может привести к катастрофическим последствиям, если не учитывать базовые принципы конфиденциальности. Meta в очередной раз показала, что готова жертвовать приватностью пользователей ради тестирования новых алгоритмов. Решение отключить функцию — правильный, но запоздалый шаг. Рынку нужны четкие регуляции, которые заставят компании получать явное согласие до использования личных данных для обучения ИИ, а не полагаться на «публичный статус» профиля.