Духовный скрининг для ИИ: в России вводят обязательную проверку моделей на традиционные ценности
Российский рынок искусственного интеллекта стоит на пороге тектонических изменений. Речь идет не просто о техническом регулировании, а о внедрении «духовно-нравственной экспертизы» для моделей ИИ, претендующих на статус суверенных или национальных. Эта инициатива, активно обсуждавшаяся в конце июля на площадке АНО «Цифровая экономика», кардинально меняет правила игры для разработчиков, желающих получить доступ к государственным заказам и преференциям.
Как будет работать новая система проверки?
Вступивший в силу 26 июля закон об ИИ носит рамочный характер, поэтому ключевые механизмы предстоит прописать в подзаконных актах. Разработчику, претендующему на высокий статус для своей модели, придется доказать ее соответствие не только законодательству, но и неким «традиционным ценностям». Примечательно, что отдельного документа с перечнем этих ценностей не планируется — предполагается, что они уже закреплены в указе президента № 809.
Вместо формального списка регуляторы совместно с бизнесом разработают специальные бенчмарки — наборы тестов для проверки моделей. Процедура будет двухступенчатой: сначала разработчик самостоятельно тестирует модель по общей риск-ориентированной методике, а затем аккредитованная лаборатория оценивает эти выводы и может выборочно проверить устойчивость системы, включая попытки взлома через промпт-инъекции.
Финальное заключение о соответствии будет направляться в правительственную комиссию по цифровизации. Именно положительный вердикт станет «золотым билетом» к господдержке и преимуществам в госзакупках. При этом, как подчеркивается, проверять все модели на рынке никто не будет — только те, что претендуют на стратегический статус. Первыми сферами внедрения станут образование и госуслуги.
Кто станет арбитром в вопросах духовности?
Ключевой вопрос — кто будет выносить этот вердикт. Схема предполагает создание пула аккредитованных лабораторий, а не единого назначенного центра. Требования к ним будут разрабатываться совместно с бизнесом. Финальное решение по статусу останется за Минцифрой, а безопасность для госсистем будут проверять ФСБ и ФСТЭК.
В профессиональном сообществе уже звучат обоснованные опасения. Бизнес-архитектор проектов ИИ экосистемы «Авандок» Алексей Борщов справедливо отмечает, что такие категории, как «гражданственность» или «историческая память», с трудом переводятся в техническое задание. А управляющий партнер адвокатского бюро «Пропозитум» Дмитрий Галанцев предупреждает о риске «оценочности» критериев, что может привести к избирательному применению.
Мой анализ: Это классический случай, когда регуляторная логика опережает технологическую реальность. Формализация «духовности» в виде бенчмарков — задача нетривиальная и чревата либо формальным подходом, либо созданием инструмента для негласного контроля. Для рынка это означает рост издержек и усиление барьеров входа, что в долгосрочной перспективе может затормозить инновации. Однако для крупных игроков, уже имеющих инструменты фильтрации контента, это шанс укрепить свои позиции.