Бутерин против «мирового господства» ИИ: призыв к реализму и децентрализации
Сооснователь Ethereum Виталик Бутерин вновь поднимает важнейший вопрос, который волнует всё технологическое сообщество: насколько человечество готово к появлению искусственного суперинтеллекта (ASI) и, главное, кто будет им управлять. Его последние высказывания — это не просто критика, а глубокий анализ тупика, в который зашли дискуссии о будущем ИИ.
Поводом для заявления стала полемика вокруг сценария «ИИ 2040», который предполагает, что суперинтеллект появится практически неизбежно, независимо от наших усилий. По мнению Бутерина, и сторонники, и критики этого сценария «заперты во взаимно несовместимых картинах мира». Одни наивно верят в плавный переход, другие — в то, что человечество сможет скоординироваться и остановить развитие. Сам Бутерин признаёт, что не знает, в каком из этих миров мы живём, и это ключевой момент неопределённости.
Опасность концентрации власти
Особую тревогу у создателя Ethereum вызывает риторика некоторых ИИ-гигантов. Он прямо заявляет, что его настораживает установка, при которой «открытый код — это плохо, а хороший исход — это когда наши парни получают контролирующее мировое господство». Бутерин справедливо отмечает, что подобные заявления должны включать все политические «красные флаги» одновременно. Для него суперинтеллект — это прежде всего колоссальный риск концентрации власти.
Именно поэтому Бутерин последовательно продвигает концепцию d/acc — децентрализованной оборонительной акселерации. Эта платформа включает развитие формальной верификации, криптографии, защищённого открытого оборудования и общественной эпистемологии. Ценность этих направлений в том, что они полезны при любом сценарии развития событий, в отличие от попыток угадать, кто окажется у руля.
Поиск компромисса: триггеры вместо войны
Ключевая идея Бутерина — найти сделку, приемлемую для обеих сторон. Он предлагает заранее согласовать набор триггеров, сигнализирующих о том, что «происходит нечто серьёзное»: суперпандемии, безработица выше 25% или появление автономного оружия. Если достаточное количество таких триггеров сработает, стороны обязуются серьёзно рассмотреть замедление или паузу в развитии. Критики примут это, ожидая, что триггеры не сработают, а обеспокоенные — наоборот.
Аналитический комментарий Cryptalist: Предложение Бутерина — это не просто философский спор, а прагматичный план, который мог бы стать основой для реального регулирования. Если бы лидеры технологических гигантов, вместо риторики о «мировом господстве», перестроили свои платформы под поиск таких взаимовыгодных сделок, как предлагает Виталик, мы бы избежали многих рисков. Пока же рынок наблюдает за гонкой вооружений в сфере ИИ, и именно децентрализованные технологии, такие как Ethereum, могут стать единственным инструментом для создания сдержек и противовесов в этой новой реальности.