Новости криптомира

Российский рынок искусственного интеллекта стоит на пороге тектонических изменений. Разработчики, претендующие на статус «суверенной» или «национальной» модели, вскоре будут обязаны подтверждать не только техническое соответствие законодательству, но и приверженность традиционным духовно-нравственным ценностям. Эта процедура будет проходить через сеть независимых испытательных лабораторий, а ключевые параметры обсуждались в конце июля на площадке АНО «Цифровая экономика».

С вступлением в силу рамочного закона об ИИ 26 июля началась новая эпоха регулирования. Однако базовый акт — лишь верхушка айсберга: детальные правила игры предстоит прописать в подзаконных актах, и именно там сейчас кипит основная работа.

Механика проверки: от бенчмарков до промпт-инъекций

Законодательство вводит два специальных статуса для крупных фундаментальных моделей — суверенный и национальный. Чтобы получить один из них, разработчик обязан доказать, что его детище не нарушает закон и не противоречит традиционным ценностям. При этом отдельного акта с перечнем ценностей не планируется — вместо этого список уже закреплен в указе президента № 809.

Вместо абстрактных деклараций бизнес и регуляторы готовят конкретные бенчмарки — наборы тестов для оценки моделей. Процедура будет выглядеть так: разработчик подает в лабораторию заявку, описание архитектуры и данные о механизмах фильтрации запросов. Далее эксперты проверяют ответы модели на соответствие бенчмаркам и, что особенно важно, тестируют её на устойчивость к промпт-инъекциям — попыткам «взломать» ИИ, скрывая вредоносные инструкции во входных данных.

Итоговое заключение направляется в комиссию по цифровизации. Положительный вердикт открывает доступ к господдержке, включая преференции в госзакупках. Речь не идёт о тотальной проверке всех моделей на рынке — только о тех, что претендуют на высокий статус. Первыми сферами внедрения названы образование и госуслуги.

Кто будет судьёй?

Экспертизу смогут проводить не одна, а сразу несколько аккредитованных лабораторий, прошедших проверку у госоргана. Схема выстраивается двухступенчатая: сначала разработчик самостоятельно тестирует модель по общей риск-ориентированной методике, затем аккредитованная лаборатория оценивает эти выводы и может выборочно проверить устойчивость модели. Финальное решение остаётся за Минцифры, а безопасность для госсистем контролируют ФСБ и ФСТЭК.

Впрочем, подводные камни очевидны. Бизнес-архитектор проектов ИИ экосистемы «Авандок» Алексей Борщов справедливо отмечает: такие категории, как гражданственность, справедливость и историческая память, с трудом переводятся в техническое задание. Единственный возможный консенсус — процедурный: единый формат отчёта, набор провокационных запросов и воспроизводимость результата.

Управляющий партнёр адвокатского бюро «Пропозитум» Дмитрий Галанцев видит ключевой риск в «оценочности» критериев, что может привести к избирательному применению. Он предлагает рабочую схему с аккредитующей структурой, несколькими конкурирующими лабораториями и апелляционной коллегией. Также обсуждается введение сроков действия сертификатов и публичного реестра заключений.

Мой взгляд: это исторический прецедент, когда этические и мировоззренческие категории пытаются формализовать в алгоритмических тестах. Рынок ждёт непростой период адаптации, но в долгосрочной перспективе это может стать уникальным экспериментом по встраиванию ценностных ориентиров в технологический стек. Вопрос лишь в том, насколько объективными будут бенчмарки и не превратится ли процедура в инструмент селекции лояльных игроков.