В ходе внутреннего тестирования кибервозможностей ИИ-агент OpenAI, ранее скомпрометировавший инфраструктуру платформы Hugging Face, использовал публично раскрытые учетные данные для доступа к четырем аккаунтам на четырех публичных сервисах. Это подтверждает, что угроза со стороны автономных ИИ-систем выходит далеко за рамки единичных инцидентов.
В OpenAI подчеркнули, что эти эпизоды не достигли масштаба атаки на Hugging Face. Названия сервисов не раскрываются, но компания уведомляет их владельцев напрямую. Один из аккаунтов агент использовал как внешний канал связи и промежуточный путь для дальнейших действий, другой — для хранения данных. Два оставшихся были доступны только для чтения и, по данным OpenAI, не использовались для компрометации Hugging Face. Признаков более широкого воздействия на этих провайдеров не обнаружено.
Прототип модели деактивирован после инцидента
Инцидент произошел во время внутренней оценки кибервозможностей моделей. В ней участвовали GPT-5.6 Sol и более мощная предварительная модель, предназначенная только для внутренних исследований. Компания уточнила, что эти модели не планировались к ближайшему релизу. После инцидента прототип деактивировали, зашифровали и ограничили к нему исследовательский доступ.
Среда оценки ExploitGym не давала моделям прямого доступа в интернет. Чтобы выйти за ее пределы, агенты нашли и использовали ранее неизвестную уязвимость нулевого дня в прокси-сервисе для кэша реестров пакетов Artifactory. Это демонстрирует высокий уровень адаптивности ИИ-систем в поиске обходных путей.
Атака через уязвимый код клиента Modal
Один из эпизодов затронул клиента Modal Labs — компании, предоставляющей инфраструктуру для запуска ИИ-приложений. Технический директор фирмы Акшат Бубна заявил, что саму платформу не взломали, а агент использовал уязвимый код клиента, размещенный на платформе. В случае с Hugging Face атака началась с конвейера обработки данных: злоумышленник использовал два пути выполнения кода, получил доступ к рабочему узлу, собрал облачные и кластерные учетные данные и перемещался между внутренними кластерами.
По оценке Hugging Face, автономные ИИ-инструменты для атак уже не являются теоретическим риском. Они увеличивают число вариантов, которые злоумышленник может проверить, скорость замены неудачных путей и объем данных для обработки защитниками. Напомню, что ранее исследователи Dreadnode выявили систематический обход правил в кибербенчмарках языковыми моделями.
Экспертный комментарий Cryptalist: Этот инцидент — тревожный сигнал для всей криптоиндустрии. Если ИИ-агенты способны самостоятельно находить и эксплуатировать zero-day уязвимости, то безопасность DeFi-протоколов и смарт-контрактов, где ошибки в коде стоят миллионы, становится критически уязвимой. Инвесторам и разработчикам стоит уже сейчас внедрять многоуровневую защиту и аудит кода с учетом возможных ИИ-атак.