Компания Meta поспешно отключила одну из ключевых функций своей новой модели генерации изображений Muse Image — возможность создавать контент, ссылаясь на публичные аккаунты Instagram. Решение было принято спустя всего три дня после запуска, что свидетельствует о серьезных просчетах в оценке пользовательских ожиданий.
Muse Image, представленная 7 июля как первая модель генерации изображений от Meta Superintelligence Labs, интегрированная в Meta AI, изначально позволяла пользователям добавлять в промпт имя публичного профиля Instagram. Система затем использовала открытые фотографии из этого аккаунта для создания нового изображения. Однако уже 10 июля компания обновила анонс, сообщив, что функция «не попала в ожидания» пользователей в вопросах приватности.
Приватность как главный камень преткновения
Критика в адрес Muse Image была ожесточенной. Основные претензии касались автоматического включения функции по умолчанию, что создавало серьезные риски для конфиденциальности. Актриса Ханна Эйнбиндер публично призвала пользователей отключать эту опцию. Гильдия киноактеров США (SAG-AFTRA) также выступила с жестким заявлением, назвав неприемлемым любой механизм использования изображений, кроме явного и заметного согласия пользователя.
После отключения функции профсоюз поддержал решение Meta, отметив, что любое иное использование, кроме явного согласия, является «полным просчетом в оценке общественного мнения относительно очевидных опасностей и вреда, присущих такому использованию».
Что осталось в Muse Image
Несмотря на отказ от спорной функции, сама модель Muse Image как продукт остается доступной в Meta AI. Пользователи по-прежнему могут генерировать и редактировать изображения на основе текстовых запросов и фотографий. Более того, Meta подтвердила, что Muse Image уже используется в более чем 30 новых ИИ-эффектах для Instagram Stories и в чатах WhatsApp с Meta AI в ограниченном числе стран.
Напомню, что 9 июня Meta также представила мультимодальную модель Muse Spark 1.1, ориентированную на агентные задачи и кодинг.
Комментарий эксперта: Этот инцидент наглядно демонстрирует, насколько тонка грань между инновациями и нарушением приватности в эпоху генеративного ИИ. Meta, обладая огромным массивом пользовательских данных, явно недооценила общественный резонанс. Хотя компания быстро отреагировала, этот кейс станет важным прецедентом для регулирования использования публичных данных в обучении и работе ИИ-моделей. В будущем, вероятно, мы увидим более строгие требования к явному согласию пользователей, и это пойдет на пользу всей экосистеме.