Сооснователь Ethereum Виталик Бутерин вступил в острую дискуссию о будущем искусственного интеллекта, заявив, что не видит ни одного внятного сценария перехода к суперинтеллекту (ASI). По его мнению, человечество застряло между «наивным» и «наивным в квадрате» вариантами развития событий.
Поводом для заявления стала полемика вокруг прогностического сценария «ИИ 2040» и его критиков. Бутерин подчеркивает, что обе стороны конфликта «заперты во взаимно несовместимых картинах мира» относительно скорости развития ИИ.
Суть спора: скорость vs. контроль
Сценарий «ИИ 2040» предполагает появление суперинтеллекта к 2040 году практически при любом развитии событий — за исключением титанических усилий по его полной остановке. Критики же, по наблюдению разработчика, называют такой прогноз наивным в оценке способности людей к координации. Однако, как отмечает Бутерин, они сами не замечают наивности в допущении, что переход к ASI по умолчанию пройдет гладко.
Позиция критиков имеет смысл лишь в мире, где ИИ остается «обычной технологией». В мире же, где суперинтеллект возможен уже к 2030 году, она, по его словам, не выдерживает критики. Сам Бутерин признается в неопределенности: будь он уверен хотя бы в одном из сценариев, то примкнул бы к соответствующему лагерю. Однако пока он не понимает, в каком из миров живет человечество.
Опасения по поводу концентрации власти
Особый дискомфорт у Бутерина вызывает риторика крупных ИИ-компаний. Его настораживает установка вида: «открытый код — это плохо, а хороший исход тот, где наши парни получают контролирующее мировое господство». По его мнению, в «нормальном» мире подобные заявления должны включать все политические тревожные сигналы одновременно.
Сам суперинтеллект Виталик рассматривает как огромный риск концентрации власти. Именно поэтому он продвигает платформу d/acc, включающую развитие формальной верификации, криптографии, защищенного открытого оборудования, устойчивости к пандемиям и общественной эпистемологии. Ценность этих направлений в том, что они полезны в обоих сценариях будущего.
Поиск компромисса
Ключевым разработчик Ethereum считает поиск сделки, приемлемой для обеих сторон. «Выигрышной будет договоренность, которую обе стороны примут исходя из своих нынешних убеждений, пусть и по разным причинам», — отмечает Бутерин.
Он предложил заранее согласовать набор триггеров, сигнализирующих о том, что «происходит нечто серьезное» — например, суперпандемии, уровень безработицы выше 25% или появление автономного оружия. Если достаточное количество таких триггеров сработает в оговоренный срок, стороны заранее соглашаются серьезно рассмотреть замедление или паузу.
По замыслу Бутерина, критики примут это, ожидая, что триггеры не сработают, а обеспокоенные — ожидая обратного. Отдельно он обратился к главам технологических гигантов, заявив, что на месте Илона Маска или Марка Цукерберга перестроил бы социальные платформы под поиск подобных взаимовыгодных сделок. Впрочем, он признал, что и эта идея наивна.
Мнение эксперта: Позиция Бутерина — редкий пример рационального взгляда на ИИ-гонку в индустрии, где доминируют либо техно-оптимизм, либо алармизм. Его предложение с триггерами — попытка внедрить элементы смарт-контрактной логики в управление рисками ASI. Однако, как и в случае с DeFi, ключевой вопрос — кто будет контролировать оракулы и гарантировать исполнение соглашения, когда ставки станут по-настоящему высоки.