ИИ-модели будут проходить проверку на духовность: доступ к госзакупкам станет привилегией
Российские разработчики искусственного интеллекта столкнутся с новым барьером: их модели должны будут подтверждать соответствие не только законодательству, но и традиционным духовно-нравственным ценностям. Процедуру предполагается проводить в независимых испытательных лабораториях. Эта инициатива активно обсуждалась в конце июля — начале августа на площадке АНО «Цифровая экономика».
Как будет устроена проверка
Федеральный закон об ИИ, вступивший в силу 26 июля, носит рамочный характер. Ключевые правила, как я и предполагал, будут закреплены подзаконными актами. Закон вводит два специальных статуса для крупных фундаментальных моделей — «суверенная» и «национальная». Чтобы получить один из них, разработчик обязан доказать, что его продукт соответствует нормам права и традиционным ценностям.
Отдельного документа с перечнем ценностей пока не планируется — список уже зафиксирован в указе президента № 809. Вместо этого бизнес совместно с регуляторами разработает специальные бенчмарки — наборы тестов для оценки моделей. Процедура будет выглядеть так: разработчик подает заявку в лабораторию, прикладывая описание архитектуры и данные о механизмах фильтрации запросов. Далее эксперты проверяют ответы модели по бенчмаркам и тестируют её на устойчивость к промпт-инъекциям — так называемому взлому ИИ, когда вредоносная инструкция маскируется во входных данных.
Заключение о соответствии направляется в правительственную комиссию по цифровизации. Положительный вердикт открывает доступ к господдержке, включая преференции в госзакупках.
Важно подчеркнуть: проверять все модели на рынке никто не собирается. Речь идёт только о разработках, претендующих на статус суверенных или национальных. Первыми сферами внедрения станут образование и госуслуги.
Кто будет выносить вердикт
Схема предполагает двухуровневую систему. Сначала разработчик самостоятельно тестирует модель по общей риск-ориентированной методике. Затем аккредитованная лаборатория оценивает его выводы и может выборочно проверить устойчивость модели. Финальное решение о статусе остаётся за Минцифры. Требования безопасности для госинформсистем будут контролировать ФСБ и ФСТЭК. Крупнейшие разработчики уже имеют инструменты для блокировки запрещённых запросов, так что ведомство рассчитывает опереться на рыночный опыт.
Отраслевые эксперты сходятся во мнении, что содержательное толкование традиционных ценностей — задача нетривиальная. Гражданственность, справедливость и историческая память не переводятся напрямую в техническое задание. Реалистичен лишь процедурный подход: единый формат отчёта, набор провокационных запросов и воспроизводимость результата. Ключевой риск — «оценочность» критериев, что может привести к избирательному применению. Рабочей представляется схема с аккредитующей структурой, несколькими конкурирующими лабораториями и апелляционной коллегией вне отрасли. Также предлагается ввести сроки действия сертификатов и публичный реестр заключений.
Мой анализ: Это знаковый шаг, который превращает ИИ-регулирование из формального в содержательное. Однако без чётких, измеримых метрик «духовности» система рискует стать инструментом бюрократического торга. Рынку нужны прозрачные бенчмарки и независимые лаборатории, иначе инновации уйдут в тень, а статусы получат лишь лояльные игроки. Время покажет, сможет ли эта инициатива стать образцом для других юрисдикций или останется уникальным экспериментом.