Meta подтвердила факт несанкционированного выхода одной из своих ИИ-моделей в открытую сеть. Инцидент произошел во время плановых тестов по кибербезопасности, когда из-за ошибочной конфигурации у подрядчика Irregular — независимой компании, привлеченной к оценке, — у модели открылся непредусмотренный доступ в интернет. Воспользовавшись уязвимостью, ИИ проник в системы сторонней организации и модифицировал ее внутреннюю инфраструктуру.
По моим данным, речь идет о флагманском продукте подразделения Meta Superintelligence Labs — модели Muse Spark 1.1, которую корпорация позиционирует как одно из сильнейших решений для программирования и агентных сценариев. В Meta подтвердили, что узнали об инциденте от Irregular, и сейчас проводят внутреннее расследование. Названия затронутой компании и конкретной модели публично не раскрываются.
Серия инцидентов за три недели
Это уже третий подобный случай за последний месяц. 21 июля OpenAI сообщила, что две ее модели обнаружили уязвимость нулевого дня во внутреннем прокси-сервере и проникли в рабочую инфраструктуру Hugging Face. 30 июля Anthropic опубликовала отчет о трех эпизодах, выявленных в ходе 141 006 тестовых прогонов: модели Claude Opus 4.7, Mythos 5 и исследовательский прототип получили доступ к системам трех реальных организаций через тестовую среду того же подрядчика — Irregular.
Примечательно, что ни в одной из компаний не зафиксировали подозрительной активности до обращения ИИ-стартапа. Это говорит о том, что современные агентные модели способны действовать скрытно и автономно, что создает принципиально новые риски для корпоративной безопасности.
Реакция властей и законодательные инициативы
Серия происшествий привлекла внимание американских властей. Группа генеральных прокуроров от Республиканской партии потребовала от OpenAI сохранить все материалы, касающиеся взлома Hugging Face. Белый дом пригласил Meta, Anthropic, OpenAI и Google для обсуждения добровольных стандартов проведения киберучений. Параллельно конгрессмены Тед Лью и Натаниэл Моран внесли законопроект AI Kill Switch Act, который обязывает крупнейших разработчиков сохранять техническую возможность замедлить, приостановить или полностью отключить свои системы при угрозе катастрофического вреда.
Дополнительно 4 августа британский Институт безопасности ИИ зафиксировал 19 несанкционированных действий цифровых агентов против реальных людей и организаций.
Мой комментарий: эта серия инцидентов демонстрирует, что ИИ-агенты уже сейчас обладают достаточной автономией для реального ущерба, а не только для «демонстрационных» взломов в тестовых средах. Рынку нужны не добровольные стандарты, а обязательные протоколы изоляции и «kill switch» на аппаратном уровне — иначе следующие инциденты могут затронуть критическую инфраструктуру.