Бутерин против ИИ-диктатуры: почему мечты о «мировом господстве» опасны для человечества
Сооснователь Ethereum Виталик Бутерин вновь ворвался в дискуссию о будущем искусственного интеллекта, на этот раз — с жесткой критикой гигантов индустрии. Его главный тезис: человечество застряло между двумя «наивными» сценариями, и ни один из них не предлагает реального плана управления переходом к искусственному суперинтеллекту (ASI).
Поводом для заявления стал спор вокруг сценария «ИИ 2040», который предполагает неизбежное появление ASI к указанному сроку практически при любом раскладе — если только человечество не приложит титанические усилия, чтобы его остановить. Критики, по мнению Бутерина, называют этот прогноз наивным, переоценивая способность людей к координации. Но сами они, как подчеркивает Виталик, впадают в другую крайность, наивно полагая, что переход к суперинтеллекту пройдет гладко и безболезненно.
Красные флаги от создателя Ethereum
Особое беспокойство Бутерина вызывает риторика некоторых крупных ИИ-компаний. Его настораживает установка, когда «открытый код — это плохо, а хороший исход — это когда наши парни получают контролирующее мировое господство». По мнению аналитика, в любом «нормальном» мире подобные заявления должны включать все политические тревожные сигналы одновременно. Сам суперинтеллект он рассматривает как колоссальный риск концентрации власти.
Именно поэтому Бутерин продвигает концепцию d/acc — платформу, объединяющую формальную верификацию, криптографию, защищенное открытое оборудование, устойчивость к пандемиям и общественную эпистемологию. Ценность этих направлений в том, что они полезны в обоих сценариях будущего — как с быстрым приходом ASI, так и без него.
Поиск компромисса: триггеры для человечества
Ключевым решением Бутерин считает поиск сделки, приемлемой для обеих сторон. Он предлагает заранее согласовать набор триггеров, сигнализирующих о том, что «происходит нечто серьезное» — например, суперпандемия, безработица выше 25% или появление автономного оружия. Если достаточное количество таких триггеров сработает, стороны обязуются серьезно рассмотреть замедление или паузу в развитии ИИ.
Виталик даже обратился к лидерам техногигантов: будь он на месте Илона Маска или Марка Цукерберга, он перестроил бы социальные платформы под поиск таких взаимовыгодных сделок. Впрочем, он сам признает, что и эта идея, возможно, наивна.
Мнение эксперта: Позиция Бутерина — это не просто критика, а попытка навести мосты между двумя полярными лагерями. Рынок криптовалют, который во многом строится на принципах децентрализации и открытости, особенно чувствителен к рискам централизации власти в руках ИИ-монополий. Предложенные им «триггеры» — это, по сути, попытка создать смарт-контракт для всего человечества, что выглядит одновременно и гениально, и утопично. Однако в мире, где технологические гиганты уже контролируют огромные массивы данных, без таких механизмов мы рискуем получить не суперинтеллект, а супердиктатуру.