Цифровой экзамен на духовность: как Россия будет сертифицировать ИИ для госзакупок
Российский рынок искусственного интеллекта стоит на пороге тектонических изменений: доступ к государственным закупкам и мерам поддержки теперь будет зависеть от успешного прохождения «духовно-нравственной экспертизы». Эта инициатива, активно обсуждавшаяся в конце июля на площадке АНО «Цифровая экономика», предполагает создание системы независимых испытательных лабораторий, которые будут оценивать соответствие моделей не только букве закона, но и традиционным ценностям.
Речь идет о внедрении двух новых статусов для крупных фундаментальных моделей — «суверенная» и «национальная». Чтобы получить один из них, разработчик должен будет предоставить в аккредитованную лабораторию заявку, описание архитектуры и механизмы фильтрации запросов. Далее начинается самое интересное: эксперты проверяют устойчивость модели к промпт-инъекциям — попыткам «взлома» через вредоносные инструкции во входных данных.
Архитектура новой системы сертификации
Ключевой интригой остается содержание самих тестов. Отдельный акт с перечнем ценностей пока писать не планируют — вместо этого совместно с бизнесом разработают специальные бенчмарки. Финализировать процедуру должны в постановлении правительства, а итоговое заключение будет выносить комиссия по цифровизации. Положительный вердикт открывает доступ к преференциям в госзакупках, что делает эту процедуру критически важной для всех крупных игроков рынка.
Система будет двухступенчатой: сначала разработчик самостоятельно тестирует модель по риск-ориентированной методике, а затем аккредитованная лаборатория оценивает эти выводы и может выборочно проверить устойчивость. Финальное слово останется за Минцифры, а безопасность для госсистем будут контролировать ФСБ и ФСТЭК. Примечательно, что проверять будут не все модели — только претендующие на статусные позиции, а первыми сферами внедрения станут образование и госуслуги.
Вопрос о том, кто именно станет «духовным цензором», остается открытым. Бизнес настаивает на множественности лабораторий и апелляционной коллегии, чтобы избежать «оценочности» критериев. На роль проверяющих прочат Институт системного программирования РАН, а эксперты предупреждают: такие абстрактные категории, как гражданственность и историческая память, крайне сложно формализовать в техническом задании. Пакет подзаконных актов еще проходит межведомственное согласование, так что окончательная конфигурация системы определится в ближайшие месяцы.
Мой взгляд: Это знаковый прецедент — регулятор пытается встроить ценностные ориентиры в техническую сертификацию ИИ. Для рынка это двойной вызов: с одной стороны, появляется четкий барьер входа, с другой — высокий риск субъективности. Умение пройти эту экспертизу станет новым конкурентным преимуществом, и я ожидаю, что вокруг бенчмарков развернется не меньшая борьба, чем вокруг самих моделей.