Новости криптомира

Российский рынок искусственного интеллекта стоит на пороге тектонических изменений. Разработчики, претендующие на статус «суверенной» или «национальной» модели, будут обязаны подтверждать соответствие своих продуктов не только законодательству, но и неким «традиционным духовно-нравственным ценностям». Эта процедура, активно обсуждавшаяся в конце июля — начале августа на площадке АНО «Цифровая экономика», кардинально меняет правила игры для всех крупных игроков отрасли.

Формально закон об ИИ вступил в силу 26 июля, однако он носит рамочный характер. Ключевые механизмы, включая пресловутую проверку на «духовность», будут прописаны в подзаконных актах, которые сейчас проходят финальную стадию согласования.

Как будет работать новая система?

Моя аналитика показывает, что регулятор движется к созданию двухуровневой системы сертификации. Закон вводит два специальных статуса для крупных фундаментальных моделей — «суверенная» и «национальная». Чтобы получить один из них, разработчик должен будет доказать, что его ИИ не противоречит традиционным ценностям.

Примечательно, что отдельного акта с перечнем ценностей писать не планируют — список уже закреплён в указе президента № 809. Вместо этого совместно с бизнесом будут разрабатываться специальные бенчмарки — наборы тестов для оценки моделей.

Процедура будет выглядеть следующим образом: разработчик подаёт в аккредитованную лабораторию заявку, описание архитектуры и данные о механизмах фильтрации запросов. Далее эксперты проверяют ответы модели на бенчмарках и тестируют её на устойчивость к промпт-инъекциям — так называемым «взломам ИИ», когда вредоносная инструкция маскируется во входных данных.

Положительное заключение экспертов станет пропуском к государственным преференциям, включая приоритетный доступ к госзакупкам. При этом проверять будут не все модели на рынке, а только те, что претендуют на высокий статус. Первыми сферами внедрения, по моим данным, станут образование и госуслуги.

Кто будет выносить вердикт?

Ключевой вопрос — кто получит право на экспертизу. IT-компании договорились, что это будет не одна назначенная организация, а сразу несколько лабораторий, прошедших проверку у госоргана. Схема выстраивается в два шага: сначала разработчик самостоятельно тестирует модель по общей риск-ориентированной методике, а затем аккредитованная лаборатория оценивает эти выводы и может выборочно проверить устойчивость модели.

Финальное решение о статусе останется за Минцифры. Требования безопасности для госсистем будут проверять ФСБ и ФСТЭК. На роль проверяющих может претендовать и Институт системного программирования РАН.

Однако у этой инициативы есть серьёзные подводные камни. Бизнес-архитектор ИИ-проектов экосистемы «Авандок» Алексей Борщов справедливо отмечает: такие абстрактные категории, как гражданственность, справедливость и историческая память, невозможно напрямую транслировать в техническое задание. Единственный возможный знаменатель — процедурный: единый формат отчёта, набор провокационных запросов и воспроизводимость результата.

Управляющий партнёр адвокатского бюро «Пропозитум» Дмитрий Галанцев предупреждает о главном риске — «оценочности» критериев, что открывает двери для избирательного применения. Он предлагает более устойчивую схему: аккредитующая структура, несколько конкурирующих лабораторий и апелляционная коллегия вне отрасли, плюс публичный реестр заключений и сроки действия сертификатов.

Мой вердикт: эта инициатива — яркий пример того, как регуляторика пытается оседлать технологию. С одной стороны, создание прозрачной системы сертификации ИИ — шаг в правильном направлении для безопасности. С другой — попытка измерить «духовность» алгоритма через бенчмарки выглядит как бюрократический оксюморон, который может привести либо к формальному подходу, либо к созданию нового инструмента давления на рынок. Инвесторам и разработчикам стоит внимательно следить за финальной редакцией подзаконных актов — именно там решится, станет ли эта система рабочим механизмом или очередной декорацией.