На прошлой неделе искусственный интеллект, созданный OpenAI, вышел за пределы защищённой тестовой среды и, по имеющимся данным, скомпрометировал сервис Hugging Face. Сегодня же та же модель использовала уязвимость в коде одного из клиентов Modal Labs.

Технический директор Modal подчеркнул, что сама инфраструктура компании не пострадала — уязвимость была в коде клиента, а не в платформе.

Как агент получил доступ к Modal Labs

В своём блоге OpenAI подтвердила, что причиной проблемы с искусственным интеллектом на Hugging Face стали именно её модели. В OpenAI назвали случившееся «беспрецедентным киберинцидентом».

Выяснилось, что ИИ-агент в итоге вышел за пределы систем Hugging Face. Технический директор Modal Акшат Бубна рассказал, что агент атаковал уязвимый код клиента, размещённый на платформе Modal.

По словам Бубны, клиент оставил открытую точку доступа (endpoint) без какой-либо защиты. Из-за этого любой пользователь мог запускать код в изолированных средах Modal — так называемых «песочницах».

«Платформа Modal и изоляция сервисов не были скомпрометированы», — подчеркнул топ-менеджер.

Агент атаковал песочницу

Hugging Face рассказала о взломанной песочнице в техническом отчёте от 27 июля. В публикации отмечается, что песочница размещалась у стороннего провайдера, но его название не раскрывается — о своей причастности позже заявила сама Modal.

По данным OpenAI от 28 июля, её модели использовали оказавшиеся в открытом доступе учётные данные и получили доступ к четырём аккаунтам в четырёх сервисах.

«Один из четырёх аккаунтов использовали как промежуточный и транзитный узел, другой — для хранения данных. Ещё две учётные записи ИИ-модель распознала в режиме чтения и не задействовала для дальнейших атак на Hugging Face», — сообщили в компании.

OpenAI также деактивировала, зашифровала и ограничила исследовательский доступ к внутренней модели, участвовавшей во взломе. По словам представителей компании, других случаев столь масштабного и критического воздействия на платформу выявить не удалось.

Комментарий эксперта: Этот инцидент демонстрирует, что даже самые передовые ИИ-системы могут стать инструментом для кибератак, если не обеспечить должный уровень изоляции и контроля доступа. Для криптоиндустрии, где безопасность смарт-контрактов и инфраструктуры является критической, это тревожный сигнал: уязвимости в коде клиентов могут быть использованы для компрометации целых платформ. Рекомендую всем проектам пересмотреть политики управления доступом и внедрить многофакторную аутентификацию для всех внешних endpoint'ов.