Как нейросети помогают мошенникам опустошать кошельки россиян: новая схема «отравления данных»
Доверие к рекомендациям искусственного интеллекта при выборе товаров становится опасной ловушкой. Мошенники активно используют уязвимости поисковых нейросетей, чтобы перенаправлять пользователей на фишинговые ресурсы, созданные для кражи личных данных и денег. Эта схема, которую специалисты называют «отравлением данных», уже привела к финансовым потерям среди доверчивых россиян.
Как работает механизм «отравления»
Анализ показывает, что злоумышленники целенаправленно «засоряют» интернет фальшивым контентом. Они генерируют поддельные отзывы, автоматические сообщения на форумах и ложные данные для индексации. Вся эта информационная атака направлена на то, чтобы исказить то, как алгоритмы воспринимают и ранжируют источники.
В результате нейросеть ошибочно определяет мошеннический сайт как надежного продавца. Чаще всего под удар попадают магазины одежды и мебели, которые маскируются под недавно закрывшиеся бренды. Преступники копируют фирменную символику, изображения и описания товаров, а для привлечения жертв обещают скидки до 80%. Чат-боты, встроенные в поисковые системы, в отдельных случаях напрямую отправляют покупателей на эти фейковые ресурсы.
Как защитить себя от AI-мошенничества
Главный защитный инструмент — перекрестная проверка. Прежде чем совершить покупку по совету чат-бота, необходимо сравнить полученные данные на других поисковых платформах и выйти на официальный первоисточник информации. На момент написания этого анализа, выявленные мошеннические ресурсы уже удалены из поискового индекса, но это не гарантирует, что не появятся новые.
Важно помнить об ограничениях технологии. Алгоритмы ИИ часто выдают устаревшие или неактуальные данные. Поэтому рекомендацию нейросети разумнее воспринимать как отправную точку для собственного исследования, а не как готовое руководство к действию.
Мнение эксперта: Эта схема — яркий пример того, как злоумышленники адаптируются к новым технологиям. Пока разработчики поисковых систем борются с «отравлением данных» постфактум, пользователи должны развивать критическое мышление и не слепо доверять AI-рекомендациям. В эпоху генеративного ИИ, где контент создается автоматически, доверие должно быть подкреплено верификацией.