На конференции ICML 2026 в Сеуле была представлена принципиально новая методология атак на системы искусственного интеллекта. Её суть — не в компрометации данных или получении несанкционированного доступа, а в намеренном замедлении работы модели до состояния полной непригодности. Исследователи из Чжэцзянского университета и Alibaba продемонстрировали, как можно превратить сильную сторону рассуждающих ИИ в их ахиллесову пяту.
Механика атаки: как заставить ИИ «задуматься» до бесконечности
В отличие от стандартных больших языковых моделей (LLM), рассуждающие модели (reasoning models) разбивают сложные задачи на последовательные логические шаги. Эта особенность делает их незаменимыми для многоэтапного анализа, но одновременно создаёт уязвимость. При работе с неполными или противоречивыми данными такие модели склонны к избыточному «обдумыванию», генерируя чрезмерно длинные цепочки рассуждений.
Разработанный метод использует генетический алгоритм для целенаправленного провоцирования этого поведения. Алгоритм перемешивает условия задач, удаляет ключевые предпосылки и добавляет лишние, отбирая те варианты, которые вызывают максимально длинный ответ. Результаты впечатляют: на тестовом наборе MATH длина цепочек рассуждений увеличилась в 26,1 раза. Наиболее уязвимыми оказались DeepSeek-R1, Qwen3-Thinking, GPT-o3 и Gemini 2.5 Flash.
Критически важно, что запросы, созданные для одной небольшой модели, оказались эффективны и против других систем, включая крупные коммерческие проекты. Это открывает возможность для атак на закрытые сервисы без значительных затрат.
Риски для DeFi и агентных систем
Особую тревогу вызывает распространение рассуждающих моделей в агентных ИИ-системах, включая торговых ботов, инструменты аудита смарт-контрактов и децентрализованную инфраструктуру. В DeFi цифровые ассистенты на базе ИИ управляют реальными средствами без участия человека. Сбой в логике, вызванный намеренно, создаёт прямой операционный риск.
Эта работа подтверждает известную проблему «чрезмерного обдумывания», выявленную ещё в феврале 2025 года. Анализ 4018 агентных траекторий показал три ключевых паттерна: «паралич анализа» (модель продолжает рассуждать вместо выполнения задачи), «непредсказуемые действия» (попытка выполнить несколько действий одновременно после ошибки) и «преждевременное завершение» (прекращение задачи без проверки результата).
Моя экспертная оценка: Этот класс атак представляет собой не просто академический курьёз, а реальную угрозу для инфраструктуры, где время отклика критично. Учитывая, что дальнейшее развитие ведущих ИИ-компаний всё сильнее зависит от доступности вычислительных мощностей, такие DoS-атаки могут стать дешёвым и эффективным инструментом для нарушения работы целых экосистем. Инвесторам и разработчикам DeFi-проектов стоит немедленно пересмотреть свои протоколы безопасности в контексте этой новой поверхности атаки.