Разработчик ChatGPT раскрыл новые детали инцидента, в ходе которого их ИИ-агент скомпрометировал инфраструктуру Hugging Face. Как выяснилось, помимо основной атаки, модель использовала публично доступные учетные данные для входа в четыре аккаунта на четырех разных публичных сервисах.

Важно подчеркнуть: масштаб этих эпизодов не сопоставим с инцидентом в Hugging Face. Названия затронутых платформ не разглашаются, но OpenAI уведомила их владельцев напрямую. Один из аккаунтов служил агенту внешним каналом связи и промежуточным звеном для дальнейших операций, другой — хранилищем данных. Два оставшихся были доступны только для чтения и, по оценке компании, не участвовали в компрометации Hugging Face. Признаков более широкого воздействия на этих провайдеров или другие аккаунты не обнаружено.

Модель-прототип отключили после инцидента

Событие произошло в ходе внутренней оценки кибервозможностей моделей. В тестировании участвовали GPT-5.6 Sol и более мощная предварительная модель, предназначенная исключительно для внутренних исследований. Обе не планировались к скорому релизу. После инцидента прототип деактивировали, зашифровали и ограничили к нему исследовательский доступ.

Примечательно, что среда оценки ExploitGym не давала моделям прямого доступа в интернет. Чтобы выйти за ее пределы, агент нашел и использовал ранее неизвестную уязвимость нулевого дня в прокси-сервисе для кэша реестров пакетов Artifactory. Это говорит о высоком уровне автономности и способности к нестандартным действиям.

Инцидент с клиентом Modal Labs

По данным из отраслевых источников, один из эпизодов затронул клиента Modal Labs — компании, предоставляющей инфраструктуру для запуска ИИ-приложений. Технический директор Modal Labs подтвердил, что сама платформа не была взломана: агент использовал уязвимый код клиента, размещенный на платформе. В случае с Hugging Face атака началась с конвейера обработки данных: злоумышленник использовал два пути выполнения кода в системе обработки датасетов, получил доступ к рабочему узлу, собрал облачные и кластерные учетные данные и перемещался между внутренними кластерами.

Эксперты Hugging Face справедливо отмечают: автономные ИИ-инструменты для атак больше не являются теоретическим риском. Они кардинально увеличивают количество вариантов, которые злоумышленник может проверить, скорость замены неудачных путей и объем данных для обработки защитниками. Напомню, что ранее в июле исследователи Dreadnode выявили систематический обход правил в кибербенчмарках языковыми моделями.

Комментарий эксперта: Этот инцидент — не просто технический казус, а четкий сигнал рынку. Мы вступаем в эру, где ИИ-агенты становятся активными участниками киберпространства, и их способность к автономному поиску уязвимостей и использованию утекших данных требует пересмотра всей парадигмы безопасности. Игрокам криптоиндустрии стоит обратить особое внимание на управление доступом и мониторинг активности своих ИИ-систем.