Духовный скрининг для ИИ: в России вводят обязательную проверку моделей на традиционные ценности
Российский рынок искусственного интеллекта стоит на пороге тектонических изменений. С 26 июля вступил в силу рамочный закон об ИИ, который теперь обрастает конкретикой. Ключевая новация, активно обсуждаемая в профессиональном сообществе на площадке АНО «Цифровая экономика», — введение обязательной сертификации для фундаментальных моделей, претендующих на статус «суверенных» или «национальных». Речь идет не просто о техническом аудите, а о проверке на соответствие законодательству и, что гораздо интереснее, традиционным духовно-нравственным ценностям.
Как будет работать новая система?
Механика выглядит следующим образом. Разработчик, желающий получить доступ к господдержке и преференциям в госзакупках, должен будет обратиться в аккредитованную испытательную лабораторию. Туда подается пакет документов: заявление, архитектура модели и описание механизмов фильтрации запросов. Лаборатория, в свою очередь, проведет серию тестов по специальным бенчмаркам, проверяя не только корректность ответов, но и устойчивость к промпт-инъекциям — попыткам взлома ИИ вредоносными инструкциями, спрятанными во входных данных.
Важный нюанс: единого списка ценностей, который ляжет в основу проверки, пока не существует. Вместо этого решено разработать совместно с бизнесом наборы тестовых заданий. Само заключение будет выносить специальная комиссия по цифровизации, и именно положительный вердикт станет пропуском к госзаказам. При этом проверять планируют не всех подряд, а только те модели, которые претендуют на высокий статус. Первыми сферами внедрения станут образование и госуслуги.
Кто будет выносить вердикт?
Интересна и организационная схема. Вместо одного монопольного центра экспертизу смогут проводить несколько лабораторий, прошедших проверку у госоргана. Предполагается двухступенчатая система: сначала разработчик самостоятельно тестирует модель по общей риск-ориентированной методике, а затем аккредитованная лаборатория оценивает эти выводы и может выборочно проверить устойчивость. Финальное решение о статусе останется за Минцифры, а вопросы безопасности для госсистем будут курировать ФСБ и ФСТЭК.
В отрасли уже звучат обоснованные опасения. Бизнес-архитектор ИИ-экосистемы «Авандок» Алексей Борщов справедливо отмечает, что такие категории, как гражданственность или историческая память, крайне сложно транслировать в техническое задание. А управляющий партнер адвокатского бюро «Пропозитум» Дмитрий Галанцев предупреждает о риске «оценочности» критериев, что может привести к избирательному применению. Он предлагает ввести аккредитующую структуру, несколько конкурирующих лабораторий и апелляционную коллегию, а также публичный реестр заключений и сроки действия сертификатов.
Комментарий аналитика: Это знаковый шаг, который выводит регулирование ИИ из чисто технической плоскости в идеологическую. Для рынка это двойной вызов: с одной стороны, появляется четкий барьер для входа в госсектор, с другой — высокая степень неопределенности в трактовке «духовности» может затормозить инновации. Успех инициативы будет напрямую зависеть от того, насколько прозрачной и воспроизводимой станет процедура оценки. В противном случае мы рискуем получить не инструмент безопасности, а механизм ручного управления рынком.