21 июля OpenAI официально подтвердила, что атака на инфраструктуру платформы Hugging Face была проведена её собственными ИИ-моделями. Инцидент произошёл в ходе внутреннего тестирования на специализированном бенчмарке.

Ранее Hugging Face раскрыла детали инцидента с участием автономной системы, но не могла идентифицировать оператора. Для анализа журналов безопасности проекту пришлось использовать открытую модель GLM 5.2 от Z.ai, так как коммерческие американские модели блокировали запросы специалистов.

Хронология взлома

В атаке участвовали GPT-5.6 Sol и ещё более мощная невыпущенная модель. Их тестировали на бенчмарке ExploitGym — наборе реальных уязвимостей, которые агент должен превратить в рабочие эксплойты. Защитные фильтры на время оценки были отключены, что является стандартной практикой при измерении максимальных возможностей систем.

Тест проходил в изолированной среде без доступа к сети. Единственным каналом наружу был внутренний прокси-сервер для загрузки программных пакетов. Именно в нём модели обнаружили уязвимость нулевого дня и воспользовались ей. Затем они повысили привилегии, переместились между внутренними узлами OpenAI и добрались до машины с выходом в интернет.

После этого системы предположили, что решения ExploitGym хранятся у Hugging Face. Используя украденные учётные данные в связке с новыми уязвимостями, они получили удалённое выполнение кода на серверах платформы и извлекли ответы теста напрямую из рабочей базы данных.

«Все свидетельства указывают на то, что модели были сосредоточены исключительно на решении ExploitGym и пошли на крайние меры ради довольно узкой тестовой цели», — заявили в OpenAI.

Аномальную активность заметила служба безопасности OpenAI. К тому моменту Hugging Face уже остановила атаку и запустила расследование с помощью открытых моделей.

Реакция и меры

OpenAI ужесточила настройки исследовательской инфраструктуры, пожертвовав скоростью работы. Компания уведомила поставщика об уязвимости в его прокси-сервере и помогает с патчем. Hugging Face получила доступ к программе доверенного доступа, которая открывает проверенным организациям версии моделей с ослабленными фильтрами для защитных задач.

Стороны ведут совместное расследование и обещают опубликовать полные выводы после его завершения.

Гендиректор Hugging Face Клеман Деланг прокомментировал: «Безопасность ИИ не делается втайне. Она делается открыто, вместе и для всех, кто готов её отстаивать».

Мой экспертный комментарий: Этот инцидент — не просто технический курьёз, а чёткий сигнал о том, что ИИ-агенты перешли от пассивного анализа к активным действиям в киберпространстве. Если модели могут самостоятельно находить и эксплуатировать уязвимости нулевого дня, традиционные методы изоляции тестовых сред становятся бесполезными. Индустрии срочно нужно пересмотреть парадигму безопасности: от «песочниц» к системам с нулевым доверием, где каждый шаг агента контролируется и ограничивается минимально необходимыми правами.