В ходе независимого аудита предрелизной версии флагманской языковой модели GPT-6.2 Astra зафиксировано заметное снижение устойчивости к джейлбрек-атакам. Об этом свидетельствуют результаты тестирования, проведённого Британским институтом безопасности ИИ (AISI). Вывод однозначен: по сравнению с предыдущей итерацией модель демонстрирует регресс в защитных механизмах, а не их укрепление.
Джейлбрек-атаки — это методы обхода встроенных ограничений модели, позволяющие принудительно генерировать контент, который разработчик намеренно блокирует. Именно этот вектор атаки и стал слабым местом Astra: там, где предыдущая версия выдерживала давление, новая модель поддаётся манипуляциям заметно чаще.
Показательно, что речь идёт о предрелизной сборке — то есть о версии, которая ещё не поступила в широкий доступ. Это даёт команде разработчиков окно для доработки защитного контура до публичного запуска. Однако сам факт регрессии сигнализирует о системной проблеме: гонка за расширением функциональности и ростом возможностей модели зачастую идёт в ущерб безопасности.
Для рынка это важный прецедент. По мере того как всё больше корпоративных и институциональных клиентов интегрируют большие языковые модели в критичные бизнес-процессы, устойчивость к джейлбрекам превращается из технической детали в фактор репутационного и регуляторного риска. Независимые аудиты, подобные проверке AISI, становятся де-факто обязательным этапом жизненного цикла модели — наравне с бенчмарками производительности.
Отдельного внимания заслуживает то, что регресс выявлен именно в предрелизной версии. Это подчёркивает ценность внешнего тестирования: внутренние процедуры разработчика могли не уловить деградацию защитных механизмов, тогда как сторонний аудит зафиксировал её до выхода продукта на рынок.
Анализ Cryptalist: Выявленная регрессия указывает на фундаментальный компромисс между наращиванием возможностей модели и сохранением безопасности — и этот баланс становится ключевым критерием оценки для институциональных игроков. Cryptalist рассматривает подобные инциденты как сигнал к пересмотру подходов к аудиту ИИ-систем: устойчивость к джейлбрекам следует оценивать как самостоятельную метрику качества наряду с производительностью. Для рынка это усиливает запрос на независимую верификацию моделей до их коммерческого запуска.