Инцидент на горе Шаста в Калифорнии вновь поднимает вопрос о границах доверия искусственному интеллекту в вопросах, где цена ошибки — здоровье и жизнь. Три туриста, готовившие восхождение с помощью чат-бота Gemini от Google, столкнулись с серьезными последствиями недооценки маршрута. Нейросеть, как выяснилось, рекомендовала группе взять с собой значительно меньше провизии и воды, чем требовалось для реального подъема.
Планируемое время восхождения составляло восемь часов, однако фактический подъем растянулся на 16. Туристы начали спуск уже в темноте, что привело к травме колена у одного из участников. В итоге группа сбилась с пути и была вынуждена провести ночь в каньоне, прежде чем спасатели смогли оказать им помощь и сопроводить к началу тропы.
Опасная самоуверенность алгоритмов
Этот случай — не единичный пример, а симптом более широкой проблемы. Современные языковые модели, включая Gemini, отлично справляются с генерацией текста и анализом данных, но их «знания» о реальных физических нагрузках, погодных условиях и особенностях конкретной местности часто носят усредненный или устаревший характер. Алгоритм не учитывает индивидуальную физическую подготовку, текущее состояние тропы и другие критические переменные, которые опытный рейнджер оценил бы на месте.
Офис шерифа округа Сискию, проводивший спасательную операцию, подчеркнул необходимость перекрестной проверки любой информации, полученной от ИИ, у местных экспертов. Это абсолютно верный подход: ИИ должен быть инструментом для первичного анализа, а не финальным авторитетом в вопросах безопасности.
Мой взгляд как аналитика: Рынок ИИ-решений для туризма и активного отдыха растет, но разработчикам стоит внедрять четкие дисклеймеры и ограничения в таких сценариях. До тех пор, пока модели не научатся интегрировать реальные данные с датчиков, прогнозов погоды и актуальных отчетов сообщества, полагаться на них в экстремальных условиях — это риск, который может стоить слишком дорого. Инцидент на Шасте — яркое напоминание, что технология пока не заменит человеческий опыт и здравый смысл.