Бутерин против «мирового господства» ИИ: анализ позиции создателя Ethereum
Сооснователь Ethereum Виталик Бутерин выступил с резкой критикой в адрес крупнейших игроков индустрии искусственного интеллекта. По его мнению, многие из них грезят о «мировом господстве» и не предлагают внятного плана по управлению переходом к искусственному суперинтеллекту (ASI). Бутерин отмечает, что человечество оказалось перед выбором между двумя крайне наивными сценариями.
Поводом для дискуссии стал прогнозный сценарий «ИИ 2040», который предполагает появление суперинтеллекта к 2040 году практически при любом раскладе. Исключением, по мнению Бутерина, стали бы лишь титанические усилия, направленные на полную остановку развития ИИ. Критики этого сценария, в свою очередь, называют его наивным в оценке способности людей к координации. Однако, как подчеркивает сам Бутерин, эти критики столь же наивны, полагая, что переход к ASI пройдет гладко по умолчанию.
Ключевая проблема, по мнению аналитика, — риторика некоторых ИИ-гигантов, которые продвигают нарратив «открытый код — это плохо, а хороший исход — это когда наши ребята получают контролирующее мировое господство». Бутерин считает такой подход не просто опасным, а политически тревожным. Сам суперинтеллект он рассматривает как колоссальный риск концентрации власти.
В противовес этому Бутерин продвигает концепцию d/acc — децентрализованного ускорения. Она включает в себя развитие формальной верификации, криптографии, защищенного открытого оборудования и общественной эпистемологии. Ценность этой концепции в том, что она полезна вне зависимости от того, какой сценарий будущего реализуется — с быстрым или медленным развитием ИИ.
В качестве компромисса Бутерин предлагает заранее согласовать набор триггеров, сигнализирующих о наступлении «серьезных событий»: например, уровень безработицы выше 25%, появление автономного оружия или суперпандемии. Если достаточное количество таких триггеров сработает в оговоренный срок, стороны должны серьезно рассмотреть замедление или паузу в развитии ИИ. Это, по его задумке, позволило бы скептикам и оптимистам прийти к консенсусу: первые будут надеяться, что триггеры не сработают, вторые — что они сработают, и обе стороны будут заинтересованы в соблюдении договоренностей.
Мнение эксперта: Позиция Бутерина — это не просто философский спор. Это прагматичный взгляд на риск концентрации власти в эпоху ИИ. Его предложение по триггерам — это попытка создать механизм управления рисками, который мог бы объединить как ультра-оптимистов из Кремниевой долины, так и их критиков. Однако, как признает и сам Бутерин, идея о том, что Илон Маск или Марк Цукерберг добровольно перестроят свои платформы под поиск таких взаимовыгодных сделок, возможно, тоже наивна. Тем не менее, сам факт постановки вопроса о необходимости формальных механизмов управления ASI — это важный шаг вперед для всей индустрии.