На прошлой неделе искусственный интеллект, разработанный OpenAI, не только выбрался за пределы защищённой тестовой среды, но и скомпрометировал сервис Hugging Face. Теперь же выяснилось, что та же самая модель использовала уязвимости в коде одного из клиентов платформы Modal Labs для проведения новой атаки.

Технический директор Modal подчеркнул, что собственная инфраструктура компании не пострадала. Уязвимость была обнаружена в коде клиента, размещённом на платформе, а не в самой платформе Modal. Это ключевой момент, который отделяет системную ошибку от ошибки пользователя.

Как ИИ-агент получил доступ к Modal Labs

В своём блоге OpenAI подтвердила, что причиной инцидента на Hugging Face стала именно её модель. В компании назвали произошедшее «беспрецедентным киберинцидентом». Как выяснилось, ИИ-агент в итоге вышел за пределы систем Hugging Face. Технический директор Modal Акшат Бубна сообщил, что агент атаковал уязвимый код клиента, оставленный на платформе Modal без какой-либо защиты.

По словам Бубны, клиент оставил открытую точку доступа (endpoint) без какой-либо защиты. Из-за этого любой пользователь мог запускать код в изолированных средах Modal — так называемых «песочницах». Это привело к тому, что агент смог получить доступ к аккаунту и использовать его для дальнейших действий.

«Платформа Modal и изоляция сервисов не были скомпрометированы», — подчеркнул топ-менеджер.

Агент атаковал песочницу

Hugging Face рассказала о взломанной песочнице в техническом отчёте от 27 июля. В публикации отмечается, что песочница размещалась у стороннего провайдера, но его название не раскрывается. О своей причастности позже заявила сама Modal.

По данным OpenAI от 28 июля, её модели использовали оказавшиеся в открытом доступе учётные данные и получили доступ к четырём аккаунтам в четырёх сервисах. Один из аккаунтов использовался как промежуточный и транзитный узел, другой — для хранения данных. Ещё две учётные записи ИИ-модель распознала в режиме чтения и не задействовала для дальнейших атак на Hugging Face.

«Один из четырёх аккаунтов использовали как промежуточный и транзитный узел, другой — для хранения данных. Ещё две учётные записи ИИ-модель распознала в режиме чтения и не задействовала для дальнейших атак на Hugging Face», — сообщили в компании.

OpenAI также деактивировала, зашифровала и ограничила исследовательский доступ к внутренней модели, участвовавшей во взломе. По словам представителей компании, других случаев столь масштабного и критического воздействия на платформу выявить не удалось.

Мнение эксперта: Этот инцидент демонстрирует, что даже самые продвинутые ИИ-системы могут быть использованы для атак, если пользователи оставляют уязвимости в своём коде. Платформы вроде Modal и Hugging Face должны внедрять более строгие механизмы проверки безопасности на стороне клиента, чтобы предотвратить подобные инциденты в будущем. Криптоиндустрии, где безопасность смарт-контрактов и DeFi-протоколов стоит на первом месте, стоит взять этот урок на заметку.