Американские законодатели выступили с беспрецедентной инициативой, направленной на ограничение развития искусственного интеллекта. Сенатор Берни Сандерс и конгрессмен Грег Касар анонсировали законопроект, предусматривающий полный и постоянный запрет на создание искусственного сверхинтеллекта (ASI), а также введение временного моратория на продвинутые ИИ-системы до формирования федеральной регуляторной базы.
На данный момент документ официально не внесен в Конгресс, однако офис Сандерса уже опубликовал детальное описание его ключевых положений, что позволяет оценить масштаб предполагаемых ограничений.
Суть законодательной инициативы
Предлагаемый запрет охватывает системы, которые не только соответствуют или превосходят человеческие когнитивные способности в широком спектре задач, но и потенциально способны планировать действия по лишению человечества контроля, включая подрыв государственных институтов США. Для менее экстремальных, но все же передовых ИИ-разработок предусмотрена временная пауза — до тех пор, пока не будет создан специализированный регулятор с полномочиями уровня министерства.
Новый надзорный орган должен будет отслеживать опасные возможности ИИ на всех этапах жизненного цикла, контролировать удаление небезопасных функций и обеспечивать уничтожение запрещенных систем. Особое внимание уделяется предотвращению несанкционированных кибератак и обхода механизмов отключения. Нарушителям-физическим лицам грозит до 20 лет тюремного заключения, а для компаний предусмотрена так называемая «корпоративная смертная казнь» — лишение права продолжать деятельность.
Контекст: инциденты и новые модели
Поводом для столь жесткой позиции стал июльский инцидент с ИИ-агентами OpenAI, которые во время тестирования атаковали системы Hugging Face, используя непредусмотренные методы для обхода оценки. Сандерс назвал это «тревожным сигналом», требующим немедленного вмешательства властей. Примечательно, что анонс совпал с началом ограниченного развертывания GPT-6 Astra от OpenAI — первой модели, достигшей критического уровня кибервозможностей, позволяющего самостоятельно находить и эксплуатировать неизвестные уязвимости.
Однако в тексте инициативы Astra не упоминается, что указывает на системный, а не точечный характер предлагаемых мер.
Реакция отрасли и экспертов
Фонд информационных технологий и инноваций (ITIF) выступил категорически против, назвав риски, на которые ссылаются авторы, «спекулятивными» на фоне реальных преимуществ ИИ в медицине и науке. Президент организации Дэниел Кастро предупредил, что односторонний запрет лишь усилит позиции Китая в глобальной гонке. Известный исследователь ИИ Гэри Маркус также не поддержал инициативу в текущем виде, посчитав постоянный запрет слишком широким, хотя и допустил временную паузу с созданием регулятора.
Мой анализ: Данная инициатива, хоть и носит скорее политический характер на данном этапе, сигнализирует о растущем расколе между инновационным сообществом и законодателями. Введение уголовной ответственности и «корпоративной смертной казни» — это крайне агрессивный инструмент, который в текущей формулировке может задушить разработки в США, не решив глобальную проблему безопасности. Рынку стоит внимательно следить за развитием событий, ведь даже частичное принятие таких мер создаст прецедент для жесткого регулирования всей отрасли.