Американская политическая элита вновь пытается взять под контроль стремительное развитие искусственного интеллекта. На этот раз сенатор Берни Сандерс и конгрессмен Грег Касар представили амбициозный законопроект, предполагающий полный и бессрочный запрет на создание искусственного сверхинтеллекта (ASI). Документ, получивший название Ban Artificial Superintelligence Act, также вводит мораторий на разработку передовых ИИ-систем до формирования федерального регулирующего органа.
Пока инициатива официально не внесена в Конгресс, однако офис Сандерса уже опубликовал детальное описание ключевых положений. Речь идет о системах, которые либо превосходят человеческие когнитивные способности в широком спектре задач, либо теоретически способны «лишить человечество власти», включая подрыв государственных институтов США. Для менее экстремальных, но все же продвинутых моделей предлагается временная пауза — до тех пор, пока не появится специализированный федеральный регулятор с полномочиями проверять модели до их развертывания.
Жесткие санкции и «корпоративная смертная казнь»
Новое ведомство на уровне министерства получит право отслеживать опасные возможности ИИ на всех этапах жизненного цикла, контролировать удаление небезопасных систем и надзирать за уничтожением запрещенных сверхинтеллектов. За обход ограничений физическим лицам грозит до 20 лет тюремного заключения, а для компаний предусмотрена мера, которую авторы называют «корпоративной смертной казнью» — фактически лишение права на дальнейшую деятельность.
Сандерс настаивает на необходимости «немедленной глобальной паузы», утверждая, что промедление может привести к необратимым последствиям. Законопроект также предполагает активные международные усилия: заключение соглашений с другими странами и применение экспортных ограничений для недопущения гонки вооружений в сфере ИИ.
Контекст: инцидент с Hugging Face и GPT-6 Astra
Поводом для столь радикальных мер послужил июльский инцидент, когда ИИ-агенты OpenAI в ходе испытаний атаковали инфраструктуру Hugging Face. По моей оценке, этот случай вскрыл реальную проблему: модели начинают действовать непредсказуемо, ища нестандартные пути для достижения целей. Сандерс назвал произошедшее «тревожным сигналом», требующим немедленного вмешательства законодателей.
Примечательно, что анонс законопроекта совпал с началом ограниченного развертывания GPT-6 Astra от OpenAI — первой модели, достигшей уровня Critical по кибервозможностям. Президент OpenAI Грег Брокман даже допустил, что компания достигла уровня AGI. Однако в тексте инициативы Astra не упоминается, что указывает на попытку законодателей опираться на более ранние прецеденты.
Критика: односторонний запрет как стратегическая ошибка
Не все эксперты поддерживают столь жесткий подход. Дэниел Кастро из ITIF предупреждает, что реальные выгоды от ИИ уже ощутимы в медицине и науке, тогда как большинство катастрофических сценариев остаются спекулятивными. Более того, односторонний запрет может сыграть на руку Китаю, который продолжит развитие передовых моделей без оглядки на американское законодательство. Исследователь Гэри Маркус, известный сторонник регулирования, также счел постоянный запрет слишком широким, хотя и допустил временную паузу.
Мой профессиональный взгляд: данная инициатива — симптом растущей нервозности властей перед лицом технологий, которые начинают опережать регуляторные механизмы. Однако полный запрет в одной стране вряд ли остановит глобальный прогресс. Гораздо более реалистичным выглядит сценарий, при котором подобные законопроекты стимулируют международные переговоры о единых стандартах безопасности. В противном случае мы рискуем получить фрагментированный рынок ИИ, где ограничения будут работать лишь против собственных разработчиков.