ИИ-модели в России обяжут проходить проверку на «духовность» для допуска к госзакупкам
Российский рынок искусственного интеллекта стоит на пороге тектонических изменений. Речь идет не просто о техническом регламенте, а о введении принципиально нового фильтра: разработчики, претендующие на статус «суверенной» или «национальной» модели, должны будут доказать соответствие своих алгоритмов не только букве закона, но и неким «традиционным духовно-нравственным ценностям». Обсуждение этой схемы проходило в конце июля — начале августа на площадке АНО «Цифровая экономика».
Формально рамочный закон об ИИ вступил в силу 26 июля, однако он лишь задает контуры. Ключевые правила игры будут определены подзаконными актами, и именно вокруг них сейчас разворачивается основная борьба. Мой анализ показывает: мы наблюдаем попытку государства создать прецедент, когда соответствие идеологическим установкам становится обязательным условием для допуска к значительным бюджетным средствам и господдержке.
Как будет устроена экзаменация алгоритмов
Механика проверки выглядит следующим образом. Разработчик подает заявку в аккредитованную испытательную лабораторию, предоставляя описание архитектуры и сведения о механизмах фильтрации запросов. Лаборатория, в свою очередь, проводит экспертизу: прогоняет модель через наборы тестов (бенчмарки) и проверяет ее на устойчивость к промпт-инъекциям — попыткам обойти внутренние ограничения через вредоносные инструкции во входных данных.
После этого заключение направляется в правительственную комиссию по цифровизации. Положительный вердикт открывает доступ к преференциям в госзакупках. Примечательно, что проверять планируют не все модели, а только те, что претендуют на высокий статус. Первыми сферами внедрения станут образование и госуслуги.
Кто будет выносить приговор
Здесь кроется главная интрига. Вместо единого назначенного регулятора, экспертизу смогут проводить сразу несколько лабораторий, прошедших проверку у госоргана. Схема двухступенчатая: сначала разработчик сам тестирует модель по общей риск-ориентированной методике, а затем аккредитованная лаборатория оценивает эти выводы и может выборочно перепроверить устойчивость системы. Финальное слово останется за Минцифры, а вопросы безопасности для госсистем будут контролировать ФСБ и ФСТЭК.
Опрошенные мной участники рынка сходятся во мнении, что главный риск — «оценочность» критериев, что создает почву для избирательного применения. Бизнес-архитектор экосистемы «Авандок» Алексей Борщов справедливо отмечает: такие категории, как гражданственность или историческая память, не переводятся напрямую в техническое задание. Единственный возможный общий знаменатель — процедурный: единый формат отчетов, набор провокационных запросов и воспроизводимость результата.
В качестве потенциального оператора проверок рассматривается Институт системного программирования РАН. Однако пакет подзаконных актов еще проходит межведомственное согласование, и говорить об итоговой конструкции преждевременно.
Моя экспертная оценка: Введение «духовной цензуры» для ИИ — это двойственный сигнал для рынка. С одной стороны, формализация процедуры и аккредитация лабораторий — шаг к зрелости отрасли. С другой, размытые формулировки создают риск превращения сертификации в инструмент административного давления. Инвесторам и разработчикам стоит внимательно следить за финальной редакцией постановления: от того, насколько прозрачными будут бенчмарки и апелляционные механизмы, зависит, станет ли эта система стимулом для развития или новым барьером для инноваций.