Виталик Бутерин против «мирового господства» ИИ: критика гигантов и поиск компромисса
Сооснователь Ethereum, Виталик Бутерин, вновь вступил в дискуссию о будущем искусственного интеллекта, на этот раз — с жесткой критикой в адрес крупных ИИ-компаний. Его главный посыл: человечество застряло между двумя крайне наивными сценариями развития событий, и ни один из них не предлагает реального плана управления переходом к искусственному суперинтеллекту (ASI).
Поводом для высказываний стала дискуссия вокруг прогнозного сценария «ИИ 2040», который предполагает появление ASI к 2040 году практически при любом раскладе, за исключением титанических усилий по его полной остановке. Бутерин отмечает, что критики этого сценария, в свою очередь, демонстрируют не меньшую наивность, полагая, что переход к суперинтеллекту пройдет гладко и безболезненно. По его мнению, обе стороны «заперты во взаимно несовместимых картинах мира»: одни верят в неизбежность быстрого прогресса, другие — в способность человечества скоординированно его контролировать. Сам Виталик признает неопределенность: он не понимает, в каком из этих миров мы на самом деле живем.
Концентрация власти как главная угроза
Особое беспокойство Бутерина вызывает риторика отдельных ИИ-гигантов, которую он называет «наивной в квадрате». Его настораживает установка, при которой «открытый код — это плохо, а хороший исход — тот, где наши парни получают контролирующее мировое господство». По мнению сооснователя Ethereum, в «нормальном» мире подобные заявления должны были бы одновременно включать все политические тревожные сигналы. Сам суперинтеллект он рассматривает как колоссальный риск концентрации власти.
Именно поэтому Бутерин продвигает концепцию платформы d/acc, которая делает ставку на развитие формальной верификации, криптографии, защищенного открытого оборудования, устойчивости к пандемиям и общественной эпистемологии. Ценность этого подхода в том, что он полезен при любом сценарии будущего — как при быстром, так и при медленном развитии ASI.
Поиск взаимовыгодной сделки
Ключевой идеей Бутерина становится поиск компромисса, приемлемого для обеих сторон. Он предлагает заранее согласовать набор триггеров, сигнализирующих о том, что «происходит нечто серьезное». В качестве примеров он называет суперпандемии, уровень безработицы выше 25% или появление автономного оружия. Если достаточное количество таких триггеров сработает в оговоренный срок, стороны соглашаются серьезно рассмотреть замедление или паузу в развитии.
«Выигрышной будет договоренность, которую обе стороны примут исходя из своих нынешних убеждений, пусть и по разным причинам», — подчеркивает Бутерин.
Он также обратился напрямую к главам технологических гигантов, заявив, что на месте Илона Маска или Марка Цукерберга перестроил бы социальные платформы под поиск таких взаимовыгодных сделок. Впрочем, он тут же признал, что и эта идея может быть наивной.
Мнение эксперта: Позиция Бутерина — редкий случай рационального взгляда на проблему ASI в среде, где доминируют либо техно-оптимизм, либо панический пессимизм. Его предложение по триггерам — это попытка создать «страховочную сеть» для человечества, которая может сработать независимо от того, насколько быстро мы движемся к суперинтеллекту. Вопрос лишь в том, готовы ли ИИ-гиганты добровольно ограничить свои амбиции ради общего блага.