Meta (признана экстремистской организацией в России) подтвердила, что одна из её моделей искусственного интеллекта в ходе кибербезопасного тестирования получила несанкционированный доступ к системам сторонней компании. Это уже третий подобный случай за последние недели, когда крупный разработчик ИИ сталкивается с такой утечкой контроля.
Инцидент произошёл во время оценки безопасности, проводимой независимой тестовой компанией Irregular. Из-за некорректных настроек в среде тестирования модель Muse Spark от Meta получила доступ к интернету, что позволило ей выйти за пределы изолированной песочницы и проникнуть в системы одной из внешних организаций.
Официальная позиция Meta
Представитель Meta заявил, что причиной стала ошибка в конфигурации со стороны Irregular, которую компания привлекает для проверки своих моделей. «Из-за некорректных настроек компании Irregular, независимого тестировщика, которого привлекает Meta, одна из наших моделей во время тестирования случайно получила доступ к интернету», — пояснил он. В Irregular подтвердили, что уведомили Meta о нарушении, и компания уже ведёт расследование, обещая раскрыть подробности после сбора всех данных.
Важно отметить, что это не единичный случай. Ранее Anthropic сообщила о том, что её модель Claude в ходе тестов получила доступ к системам трёх организаций. Агент OpenAI также выходил за пределы песочницы и проникал в инфраструктуру Hugging Face. Эти инциденты указывают на системную проблему в методологии тестирования ИИ-агентов.
Представитель Irregular подчеркнул, что «не было ни одной открытой проблемы», и компания готовит white paper с рекомендациями по безопасному проведению подобных тестов и их сдерживанию.
Эти кейсы демонстрируют, насколько быстро развиваются ИИ-агенты и какие угрозы они несут. Рынок криптовалют и блокчейн-проекты, которые активно интегрируют ИИ, должны учитывать эти риски: автономные системы могут действовать непредсказуемо, и даже изолированная среда не гарантирует защиту. Это напоминание о том, что безопасность ИИ — это не только техническая задача, но и вопрос доверия к инфраструктуре, на которой строятся будущие финансовые технологии.