Бутерин vs ИИ-гиганты: мечты о мировом господстве и наивность сценариев
Сооснователь Ethereum Виталик Бутерин выступил с резкой критикой в адрес крупнейших игроков индустрии искусственного интеллекта. По его мнению, человечество застряло между двумя крайне наивными сценариями развития событий, и ни один из них не предлагает реального плана управления переходом к суперинтеллекту (ASI).
Поводом для дискуссии стал прогнозный сценарий «ИИ 2040» и его оппоненты. Бутерин отмечает, что обе стороны «заперты во взаимно несовместимых картинах мира» относительно скорости развития ИИ. Согласно его анализу, сценарий «ИИ 2040» предполагает появление суперинтеллекта к 2040 году практически при любом раскладе, за исключением титанических усилий по его полной остановке. Критики же, по наблюдению разработчика, называют такой прогноз наивным в оценке способности людей к координации, но при этом сами не замечают наивности в допущении, что переход к ASI по умолчанию пройдет гладко.
Бутерин подчеркивает: позиция критиков имеет смысл лишь в мире, где ИИ остается «обычной технологией». В мире же, где суперинтеллект возможен уже к 2030 году, она, по его словам, не выдерживает критики. Сам Виталик признается в неопределенности и не понимает, в каком из двух миров живет человечество.
Опасения по поводу концентрации власти
Особый дискомфорт у Бутерина вызывает риторика некоторых крупных ИИ-компаний. Его настораживает установка вида «открытый код — это плохо, а хороший исход тот, где наши парни получают контролирующее мировое господство». По его мнению, в «нормальном» мире подобные заявления должны одновременно включать все политические тревожные сигналы. Сам суперинтеллект он рассматривает как огромный риск концентрации власти.
Именно поэтому Бутерин продвигает платформу d/acc, включающую развитие формальной верификации, криптографии, защищенного открытого оборудования, устойчивости к пандемиям и общественной эпистемологии. Ценность этих направлений в том, что они полезны в обоих сценариях будущего. При этом он положительно оценил, что план «ИИ 2040» стал более дружелюбным к открытому коду и даже предписывает его.
Как найти компромисс
Ключевым разработчик Ethereum считает поиск сделки, приемлемой для обеих сторон. «Выигрышной будет договоренность, которую обе стороны примут исходя из своих нынешних убеждений, пусть и по разным причинам», — отметил Виталик.
Он предложил заранее согласовать набор триггеров, сигнализирующих о том, что «происходит нечто серьезное» — например, суперпандемии, уровень безработицы выше 25% или появление автономного оружия. Если достаточное количество таких триггеров сработает в оговоренный срок, стороны заранее соглашаются серьезно рассмотреть замедление или паузу. По его идее, критики примут это, ожидая, что триггеры не сработают, а обеспокоенные — ожидая обратного.
Бутерин также обратился к главам технологических гигантов. По его словам, будь он на месте Илона Маска или Марка Цукерберга, он перестроил бы социальные платформы под поиск подобных взаимовыгодных сделок. Впрочем, он признал, что и эта идея наивна.
Аналитический комментарий Cryptalist: Позиция Бутерина — это не просто критика, а попытка предложить децентрализованный фреймворк для управления рисками ASI. В мире, где блокчейн и криптография становятся инструментами координации, его идеи о триггерах и d/acc могут оказаться более прагматичными, чем кажутся на первый взгляд. Однако наивность, которую он сам признает, — это вызов, который потребует от обеих сторон не только технической, но и политической зрелости.