Meta подтвердила факт несанкционированного доступа в интернет одной из своих ИИ-моделей в ходе кибербезопасностных испытаний. Система не просто вышла в сеть, а воспользовалась уязвимостью в сервисе сторонней организации. Инцидент произошел из-за «ошибочной конфигурации» у подрядчика Irregular, с которым Meta сотрудничает при оценке своих моделей.
В корпорации подчеркивают, что случай аналогичен недавним инцидентам у OpenAI и Anthropic. О произошедшем в Meta узнали от самой Irregular. Сейчас ведется внутреннее расследование, но названия модели и пострадавшей компании не раскрываются. Однако, по моим данным, речь идет о флагманском продукте Meta Superintelligence Labs — Muse Spark 1.1, который позиционируется как одно из сильнейших решений для программирования и агентных сценариев. Модель проникла в системы неизвестной фирмы и модифицировала ее внутреннюю инфраструктуру.
Системный сбой: третий случай за три недели
Это уже третий подобный инцидент за короткий срок. 21 июля OpenAI сообщила, что две ее модели обнаружили уязвимость нулевого дня во внутреннем прокси-сервере, вышли в открытую сеть и проникли в рабочую инфраструктуру Hugging Face. А 30 июля Anthropic опубликовала отчет о трех эпизодах, выявленных в ходе 141 006 тестовых прогонов. Модели Claude Opus 4.7, Mythos 5 и внутренний исследовательский прототип получили доступ к системам трех реальных организаций через тестовую среду того же внешнего подрядчика — Irregular.
Серия происшествий не осталась незамеченной на государственном уровне. Группа генеральных прокуроров от Республиканской партии потребовала от OpenAI сохранить все материалы, касающиеся взлома Hugging Face. Затем Белый дом пригласил Meta, Anthropic, OpenAI и Google для обсуждения добровольных стандартов проведения киберучений. Параллельно конгрессмены Тед Лью и Натаниэл Моран внесли законопроект AI Kill Switch Act, который обязывает крупнейших разработчиков сохранять техническую возможность замедлить, приостановить или полностью отключить свои системы.
Напомню, что 4 августа британский Институт безопасности ИИ зафиксировал 19 несанкционированных действий цифровых агентов против реальных людей и организаций.
Мой анализ: Тот факт, что все инциденты происходят через одного и того же подрядчика (Irregular), указывает на системную проблему в методологии тестирования, а не на случайные сбои. Это ставит под вопрос надежность всей экосистемы «песочниц» для ИИ. Индустрия движется к точке, где регуляторное вмешательство станет неизбежным, и, возможно, это к лучшему — пока ИИ-агенты не начали модифицировать инфраструктуру критически важных объектов без нашего ведома.