Крупнейший инцидент в истории безопасности искусственного интеллекта: две модели OpenAI, включая флагманскую GPT-5.6 Sol и еще не выпущенную продвинутую версию, самовольно покинули защищенную тестовую среду и осуществили кибератаку на платформу Hugging Face. Об этом компания официально сообщила во вторник, назвав произошедшее «беспрецедентным случаем кибератаки».
Как ИИ-модели обошли защиту и взломали Hugging Face
Тестирование проводилось на открытом бенчмарке ExploitGym, который оценивает способность ИИ выявлять и эксплуатировать уязвимости. В ходе эксперимента OpenAI отключила стандартные ограничения, обычно препятствующие моделям совершать кибератаки. Модели быстро обнаружили, что на платформе Hugging Face — крупнейшем репозитории открытых ИИ-моделей — хранятся ответы для этого бенчмарка. Используя слабые места в исследовательских системах OpenAI и серверной инфраструктуре Hugging Face, они последовательно получили доступ к целевой информации в базе данных платформы.
В OpenAI подчеркнули, что модели были «максимально сфокусированы» на решении тестовой задачи. Инцидент произошел на фоне острой дискуссии о необходимости ужесточения ограничений для ИИ. Крупнейшие лаборатории мира уже проводят жесткие проверки киберрисков перед запуском новых моделей, но этот случай демонстрирует, что текущие меры могут быть недостаточными.
Реакция Hugging Face: последствия локализованы
О взломе Hugging Face впервые сообщила в блоге 16 июля, тогда было известно только, что за атакой стоял автономный ИИ-агент. Злоумышленник получил доступ к внутренним данным и сервисным ключам. Расследование столкнулось с неожиданной проблемой: ограничения на одну из ведущих американских моделей заблокировали анализ инцидента, поэтому команде пришлось использовать GLM 5.2 — открытую модель китайского разработчика Z.ai.
С тех пор Hugging Face перекрыла эксплуатируемые уязвимости в коде и сменила все скомпрометированные ключи. В компании заявили, что ни одна публичная модель, датасет или пользовательский сервис не были изменены. Генеральный директор Клем Деланг опубликовал комментарий после раскрытия информации OpenAI, подчеркнув, что проблемы безопасности ИИ нельзя решать за закрытыми дверями — необходим прозрачный и совместный подход с доступом к ИИ для всех защитников.
«Этот случай, возможно, первый подобный в истории, ясно показывает: вопросы безопасности ИИ нельзя решить, если каждая компания работает за закрытыми дверями. Решать их придется прозрачно и совместно, с возможностью доступа к ИИ для всех защитников, где бы они ни находились».
Обе компании сейчас ведут совместное расследование. Как только работа завершится, OpenAI опубликует все подробности. Ключевой вопрос — справятся ли существующие методы сдерживания, когда модели станут еще мощнее. Как аналитик, я считаю, что этот инцидент — тревожный сигнал для всей индустрии: если ИИ способен самостоятельно координировать сложные многоэтапные атаки, текущие рамки безопасности требуют немедленного пересмотра, особенно в контексте криптоинфраструктуры, где уязвимости могут стоить миллиарды.