Корпорация Google была вынуждена в экстренном порядке отключить ИИ-генератор изображений на базе модели Nano Banana, интегрированный в Google Earth. Инструмент просуществовал менее 24 часов — столь стремительное сворачивание функционала говорит о серьёзных просчётах в модерации контента на этапе запуска.
Суть нововведения заключалась в том, что пользователи могли с помощью текстового запроса «дорисовывать» на карте любые объекты или события. Однако уже в первые часы работы механизм стал источником откровенно деструктивного контента. В сети мгновенно распространились сгенерированные изображения, изображающие воронку от взрыва в Лос-Анджелесе и затопленный Капитолий США. Это не просто технический сбой, а прямая угроза информационной безопасности, учитывая вирусный потенциал подобных фейков.
Показательна и реакция профессионального сообщества. Исследователь открытых данных Хенк ван Эсс в ходе тестирования обнаружил, что его запросы, включая генерацию сцен с беженцами на границе с Мексикой и изображения ядерного объекта в Иране, не встречали никаких блокировок. Это указывает на то, что системы фильтрации либо отсутствовали, либо были настроены настолько поверхностно, что не распознавали даже очевидно чувствительные темы.
Разработчики объяснили удаление инструмента тем, что пользователи публиковали созданные ИИ картинки, нарушающие правила сервиса. Однако такая формулировка выглядит скорее попыткой сгладить углы — проблема не в поведении юзеров, а в архитектуре безопасности самого продукта, который был выпущен без должной проверки на уязвимости.
Моя оценка: Этот инцидент — очередное напоминание о том, что гонка за внедрением генеративных моделей в массовые продукты часто опережает разработку адекватных механизмов контроля. Для Google, позиционирующего себя как ответственного лидера в области ИИ, такой провал особенно репутационно болезненен. Рынок и регуляторы всё внимательнее следят за подобными кейсами, и спешка с релизом может обернуться не только техническими, но и юридическими последствиями.