Стремительный запуск и столь же быстрое отключение — так можно охарактеризовать историю с ИИ-генератором изображений на базе модели Nano Banana, который Google интегрировала в Google Earth. Инструмент прожил менее 24 часов, прежде чем разработчики вынуждены были его деактивировать. Причина банальна и одновременно показательна: пользователи мгновенно нашли способ нарушать правила сервиса, превращая картографический продукт в площадку для создания откровенно дезинформирующего контента.

Суть функции заключалась в том, чтобы по текстовому запросу «дорисовать» любую точку или событие прямо на карте. Звучало это как удобный креативный инструмент для визуализации гипотетических сценариев. Однако реальность оказалась куда менее безобидной. Уже через несколько часов после запуска по соцсетям разлетелись сгенерированные нейросетью изображения, изображавшие, например, гигантский кратер от взрыва в Лос-Анджелесе или затопленный Капитолий США.

Особую тревогу вызывает то, что система не справлялась даже с базовой модерацией запросов. Исследователь открытых данных Хенк ван Эсс в ходе своих тестов обнаружил, что его промпты, включая запросы на создание изображений беженцев на границе с Мексикой или ядерного объекта в Иране, проходили без каких-либо блокировок. Это прямое свидетельство того, что механизмы фильтрации контента в Nano Banana либо отсутствовали, либо были настроены крайне поверхностно.

С точки зрения профессионального анализа, этот инцидент — не просто технический сбой, а симптом системной проблемы. Google в очередной раз пытается внедрить генеративный ИИ в массовые продукты, но спешка приводит к репутационным рискам. Когда речь идет о картографических сервисах, которые воспринимаются как источник объективных данных, любые манипуляции с визуализацией реальности особенно опасны. Фейковые изображения катастроф или военных объектов могут спровоцировать панику или использоваться для пропаганды.

Мой вердикт: Google поступила правильно, откатив функцию, но сам факт такого запуска вызывает вопросы к внутренним процессам контроля качества. В погоне за инновациями нельзя забывать о базовой ответственности перед пользователями. Урок для всей индустрии очевиден: генеративный ИИ в геопространственных продуктах требует не просто технической реализации, но и глубокой проработки этических и юридических ограничений. Иначе мы рискуем получить инструмент, который не информирует, а манипулирует.