Компания Meta поспешила устранить спорную возможность в своей новой ИИ-модели Muse Image, которая позволяла генерировать изображения, используя публичные профили Instagram в качестве референса. Функция, анонсированная 7 июля, была отключена всего через три дня после запуска — 10 июля.
Изначально Muse Image позиционировалась как первая модель генерации изображений от Meta Superintelligence Labs, интегрированная в Meta AI. Ключевой «фишкой» была опция добавления в промпт имени публичного аккаунта Instagram, после чего нейросеть анализировала открытые фотографии пользователя и создавала на их основе новые визуальные материалы. Однако уже в обновлении к официальному анонсу компания признала, что данная функция «не оправдала ожиданий пользователей в области конфиденциальности».
Проблема вызвала широкий резонанс. Актриса Ханна Эйнбиндер публично призвала Meta отключить опцию, а профсоюз SAG-AFTRA выступил с жесткой критикой. В организации подчеркнули, что любой механизм использования изображений пользователей, кроме явного и заметного согласия, «является полным просчетом в оценке общественного мнения относительно очевидных опасностей и вреда». Особое возмущение вызвал тот факт, что функция была включена по умолчанию, что создавало риски для приватности миллионов пользователей.
Несмотря на отзыв функции, сама модель Muse Image остается доступной в Meta AI. Пользователи по-прежнему могут генерировать и редактировать изображения по текстовым запросам и загруженным фотографиям. Более того, Meta уже интегрировала Muse Image в более чем 30 новых ИИ-эффектов для Instagram Stories и в чаты WhatsApp с Meta AI в ряде стран.
Мнение эксперта: Этот инцидент — яркий пример того, как технологические гиганты, гонясь за инновациями, забывают о базовых принципах цифровой этики. Использование публичных данных без явного согласия — это не техническая ошибка, а фундаментальный просчет в дизайне продукта. Meta придется серьезно пересмотреть свои подходы к конфиденциальности, если она хочет, чтобы пользователи доверяли ее ИИ-инструментам. В противном случае такие скандалы будут повторяться снова и снова.