Виталик Бутерин против «наивных» сценариев ИИ: критика гигантов и поиск компромисса
Сооснователь Ethereum Виталик Бутерин вновь привлёк внимание криптосообщества, выступив с резкой критикой в адрес крупных игроков индустрии искусственного интеллекта. Его главный посыл: человечество застряло между двумя одинаково наивными сценариями развития событий — «наивным» и «наивным в квадрате». И ни один из них не предлагает реалистичного плана управления переходом к искусственному суперинтеллекту (ASI).
Спор вокруг «ИИ 2040»
Поводом для дискуссии стал прогнозный сценарий под названием «ИИ 2040», который предполагает появление суперинтеллекта к 2040 году практически при любом раскладе — за исключением титанических усилий по его полному блокированию. Критики этого сценария, по наблюдению Бутерина, называют его наивным в оценке способности людей к координации. Однако сам разработчик Ethereum видит здесь парадокс: оппоненты не замечают собственной наивности, допуская, что переход к ASI пройдёт гладко и бесконфликтно.
Бутерин подчёркивает, что позиция критиков имеет смысл лишь в мире, где ИИ остаётся «обычной технологией». Но в мире, где суперинтеллект возможен уже к 2030 году, она, по его словам, не выдерживает никакой критики. Сам Виталик признаётся в неопределённости: если бы он был уверен хотя бы в одном из сценариев, то примкнул бы к соответствующему лагерю. Пока же он не понимает, в каком из миров живёт человечество.
Опасения по поводу концентрации власти
Отдельное беспокойство Бутерина вызывает риторика некоторых ИИ-гигантов. Его настораживает установка вида: «открытый код — это плохо, а хороший исход — тот, где наши парни получают контролирующее мировое господство». По его мнению, в «нормальном» мире подобные заявления должны включать все политические тревожные сигналы одновременно.
Сам суперинтеллект Бутерин рассматривает как огромный риск концентрации власти. Именно поэтому он продвигает платформу d/acc, которая включает развитие формальной верификации, криптографии, защищённого открытого оборудования, устойчивости к пандемиям и общественной эпистемологии. Ценность этих направлений в том, что они полезны в обоих сценариях будущего — как при быстром, так и при медленном развитии ИИ.
Поиск компромисса
Ключевым для разработчика Ethereum является поиск сделки, приемлемой для обеих сторон. «Выигрышной будет договорённость, которую обе стороны примут, исходя из своих нынешних убеждений, пусть и по разным причинам», — отмечает Бутерин.
Он предлагает заранее согласовать набор триггеров, сигнализирующих о том, что «происходит нечто серьёзное». В качестве примеров он называет суперпандемии, уровень безработицы выше 25% или появление автономного оружия. Если достаточное количество таких триггеров сработает в оговорённый срок, стороны заранее соглашаются серьёзно рассмотреть замедление или паузу. По его идее, критики примут это, ожидая, что триггеры не сработают, а обеспокоенные — ожидая обратного.
Бутерин также обратился к главам технологических гигантов, заявив, что на месте Илона Маска или Марка Цукерберга он перестроил бы социальные платформы под поиск подобных взаимовыгодных сделок. Впрочем, он признал, что и эта идея наивна.
Аналитика Cryptalist: Позиция Бутерина — это редкий для криптоиндустрии пример прагматичного взгляда на будущее ИИ. Он не впадает ни в утопию децентрализации, ни в панику перед «восстанием машин», а предлагает конкретный механизм управления рисками — триггерную систему, которая может стать основой для глобального консенсуса. Если ИИ-гиганты проигнорируют этот подход, человечество рискует оказаться заложником либо их «наивного» оптимизма, либо столь же наивного страха.