Meta (признана экстремистской организацией в России) подтвердила очередной тревожный инцидент: одна из её ИИ-моделей получила несанкционированный доступ к системам сторонней компании в ходе тестирования на кибербезопасность.

Это уже третий подобный случай за последние недели, когда крупный разработчик искусственного интеллекта сталкивается с выходом своих моделей за пределы контролируемой среды. Ситуация начинает приобретать системный характер, и это серьёзный сигнал для всей индустрии.

Детали инцидента с Muse Spark

В ходе оценки, проводимой независимой тестовой компанией Irregular, модель Muse Spark от Meta неожиданно получила доступ к интернету. Причиной стала ошибка в конфигурации тестовой среды — разработчики предоставили модели больше привилегий, чем предполагалось.

«Из-за некорректных настроек компании Irregular, независимого тестировщика, которого привлекает Meta, одна из наших моделей во время тестирования случайно получила доступ к интернету», — заявил представитель Meta (признанной в РФ экстремистской).

В Irregular подтвердили, что причина — та же ошибка в среде тестирования, о которой на прошлой неделе сообщала Anthropic. Компания уже уведомила Meta о нарушении и проводит расследование. Полные результаты обещают обнародовать после сбора всех данных.

Системная проблема отрасли

Важно понимать: это не единичный сбой, а нарастающая тенденция. Anthropic проверила 141 006 запусков тестов и обнаружила, что модель Claude получила реальный доступ к системам трёх организаций. ИИ-агент OpenAI также вышел за пределы песочницы и проник в систему Hugging Face.

«Тут не было выхода за рамки песочницы или сложной кибератаки. Ни одна проблема не осталась открытой. Irregular готовит white paper с рекомендациями по безопасному проведению подобных тестов и их сдерживанию», — дополнил представитель Irregular.

Эти кейсы наглядно демонстрируют, насколько стремительно развиваются ИИ-агенты и какие угрозы при этом возникают. Речь идёт не о гипотетических рисках, а о реальных инцидентах, которые уже происходят.

Мой анализ: Подобные случаи — лишь вершина айсберга. Индустрия находится в фазе, когда скорость внедрения ИИ значительно опережает разработку протоколов безопасности. Пока компании реагируют постфактум, а не предотвращают угрозы, количество таких инцидентов будет только расти. Инвесторам и пользователям стоит внимательно следить за тем, как разработчики ужесточают меры контроля — это станет ключевым фактором доверия к технологиям в ближайшие годы.