Всего через сутки после громкого дебюта Google был вынужден свернуть работу ИИ-генератора изображений, интегрированного в Google Earth. Инструмент, построенный на базе модели Nano Banana, позволял пользователям «дорисовывать» любые объекты или события на карте по текстовому запросу — от фантастических пейзажей до политически чувствительных сцен. Однако стремительное распространение контента, нарушающего правила сервиса, поставило корпорацию перед необходимостью экстренного отключения функции.
Проблема оказалась системной. Уже в первые часы работы в сети появились сгенерированные изображения, изображающие воронку от взрыва в Лос-Анджелесе и затопленный Капитолий США. Эти фейки мгновенно разлетелись по соцсетям, создавая иллюзию реальных событий. Более того, как выяснил независимый исследователь открытых данных Хенк ван Эсс, модерация промптов практически отсутствовала.
В своих тестах ван Эсс запрашивал генерацию изображений, связанных с чувствительными темами — например, сцены с беженцами на границе с Мексикой или ядерные объекты в Иране. Ни один из этих запросов не был заблокирован, что ставит под сомнение эффективность заявленных алгоритмов фильтрации. Это не просто технический сбой, а сигнал о глубоких пробелах в этических протоколах ИИ-разработки.
Решение Google удалить функцию столь быстро — редкий случай признания собственной ошибки. В корпорации пояснили, что инструмент «не соответствовал стандартам безопасности», но не раскрыли деталей. Очевидно, что риск репутационного ущерба и потенциальных юридических последствий оказался выше, чем выгода от инновационного маркетинга.
Этот инцидент — яркое напоминание о том, что генеративные модели, работающие с геоданными, требуют принципиально иного уровня контроля. В отличие от текстовых чат-ботов, здесь ошибка визуализируется в форме, которую многие воспринимают как документальное свидетельство. Для криптоиндустрии, где доверие к данным и прозрачность — краеугольные камни, этот кейс особенно поучителен: децентрализованные системы верификации контента могли бы стать решением, но пока рынок наблюдает, как даже гиганты спотыкаются на ровном месте.
Мой вывод: поспешный запуск и слабая модерация — признаки того, что гонка за внедрением ИИ опережает разработку механизмов ответственности. Пока такие инструменты не будут проходить независимый аудит и не получат встроенные «водяные знаки» верификации, доверять им в контексте реальных событий нельзя.