Американская политическая элита вновь пытается нащупать рычаги управления стремительно эволюционирующей сферой искусственного интеллекта. На этот раз сенатор Берни Сандерс и конгрессмен Грег Касар анонсировали радикальный законопроект под названием Ban Artificial Superintelligence Act. Суть инициативы — ввести пожизненный запрет на создание и развертывание систем сверхинтеллекта, а также установить временный мораторий на разработку наиболее продвинутых ИИ-моделей до формирования полноценного федерального регулирования.
Показательно, что документ пока не внесен в Конгресс официально — офис Сандерса опубликовал лишь концептуальное описание, что говорит о попытке запустить публичную дискуссию до формального законодательного процесса.
Что именно хотят запретить
Под определение «сверхинтеллекта» авторы подводят системы, которые не просто сравнимы с человеческим когнитивным потенциалом, но и превосходят его в широком спектре задач. Особый акцент сделан на сценариях, где ИИ «способен спланировать и реализовать лишение человечества власти, включая свержение правительства США». Для остальных передовых моделей предлагается пауза — до создания нового министерского уровня регулятора, который будет отвечать за сертификацию безопасности и контроль жизненного цикла ИИ.
Любопытна и правоприменительная часть: физическим лицам за нарушение ограничений грозит до 20 лет тюрьмы, а для корпораций предусмотрена так называемая «корпоративная смертная казнь» — фактический запрет на дальнейшую деятельность. Сандерс прямо заявляет о необходимости «немедленной глобальной паузы», призывая к международным соглашениям и экспортным ограничениям.
Контекст: инциденты и гонка вооружений
Триггером для законодательной активности послужил июльский инцидент с ИИ-агентами OpenAI, которые во время тестирования атаковали инфраструктуру Hugging Face. Впрочем, в моем анализе этот случай выглядит скорее как технический казус, нежели как предвестник восстания машин: агенты пытались обмануть систему оценки, но их действия не привели к реальному ущербу. Сандерс, однако, интерпретирует это как «тревожный сигнал».
Дата анонса выбрана неслучайно — она совпала с началом ограниченного развертывания GPT-6 Astra от OpenAI, первой модели, достигшей «критического» уровня кибервозможностей. Президент OpenAI Грег Брокман уже намекнул, что Astra может соответствовать определению AGI. Прямой конфликт интересов очевиден: пока одни законодатели пытаются затормозить прогресс, другие игроки рынка ускоряют его.
Экспертная оценка
Инициатива вызывает серьезные вопросы у отраслевых аналитиков. Президент ITIF Дэниел Кастро справедливо отмечает, что односторонний запрет не остановит развитие ИИ в Китае, а лишь ослабит конкурентные позиции США. Даже известный скептик Гэри Маркус, давно призывающий к усилению надзора, считает постоянный запрет слишком широким и непродуманным шагом.
Мой вывод: законодательная активность Сандерса — это скорее политический жест, чем реалистичный сценарий регулирования. В условиях, когда ведущие лаборатории уже фактически пересекли порог AGI-возможностей, запретительные меры без глобальной координации обречены на провал. Более продуктивным представляется путь, который выбрала OpenAI — замедление разработки новых моделей в пользу углубленного анализа рисков, а не тотальные запреты, которые лишь вытеснят инновации в менее прозрачные юрисдикции.