Духовный тест для ИИ: доступ к госзакупкам в России получат только «нравственные» модели
Российский рынок искусственного интеллекта стоит на пороге беспрецедентного эксперимента: разработчики фундаментальных моделей будут обязаны подтверждать не только техническое соответствие закону, но и приверженность «традиционным духовно-нравственным ценностям». Эта инициатива, активно обсуждавшаяся в конце июля — начале августа на площадке АНО «Цифровая экономика», кардинально меняет правила игры для всех участников отрасли.
Формально закон об ИИ вступил в силу еще 26 июля, однако он носит рамочный характер. Теперь ключевые требования предстоит прописать в подзаконных актах, и именно здесь разворачивается главная интрига. Речь идет о введении двух специальных статусов для крупных моделей — «суверенной» и «национальной». Получение любого из них станет пропуском к государственным преференциям, включая преимущества в госзакупках.
Механика проверки: от бенчмарков до промпт-инъекций
Отдельный акт с перечнем ценностей пока создавать не планируют — этот список уже зафиксирован в указе президента № 809. Вместо этого совместно с бизнесом будут разработаны специализированные бенчмарки — наборы тестов для оценки моделей. Процедура будет двухступенчатой: разработчик подает заявку с описанием архитектуры и механизмов фильтрации, после чего аккредитованная лаборатория проверяет ответы модели и пытается обойти внутренние ограничения с помощью промпт-инъекций — по сути, взлома ИИ вредоносными инструкциями во входных данных.
Заключение экспертов направляется в правительственную комиссию по цифровизации, и только положительный вердикт открывает доступ к господдержке. Важный нюанс: проверять будут не все модели на рынке, а лишь те, что претендуют на суверенный или национальный статус. Первыми сферами внедрения станут образование и госуслуги.
Вся эта конструкция вызывает у меня серьезные вопросы. Формализовать «духовность» в виде технического теста — задача почти невыполнимая. Бизнес-архитекторы ИИ-проектов справедливо отмечают: такие категории, как гражданственность или историческая память, не переводятся напрямую в техническое задание. Единственный возможный подход — процедурный: единый формат отчетов и воспроизводимость результатов. Но здесь кроется главный риск — «оценочность» критериев, что создает почву для избирательного применения.
При этом сама система будет децентрализованной: несколько конкурирующих лабораторий, прошедших проверку у госоргана, смогут выдавать заключения. Финальное решение останется за Минцифры, а безопасность для госсистем будут контролировать ФСБ и ФСТЭК. Крупные разработчики уже имеют инструменты блокировки запрещенных запросов, так что ведомство рассчитывает опереться на рыночные наработки.
Вероятными кандидатами на роль проверяющих называют Институт системного программирования РАН. Однако пакет подзаконных актов еще проходит межведомственное согласование, и говорить об итоговой конструкции преждевременно. Юристы уже предлагают ввести сроки действия сертификатов и публичный реестр заключений, чтобы минимизировать риски субъективизма.
Мой вывод: инициатива амбициозная, но ее успех напрямую зависит от того, удастся ли создать действительно объективные и воспроизводимые процедуры оценки. Без этого «духовный фильтр» рискует превратиться из инструмента защиты ценностей в механизм административного давления на рынок, что в конечном счете ударит по инновационному развитию отрасли.