Бутерин против «мирового господства» ИИ: критика гигантов и поиск компромисса
Сооснователь Ethereum Виталик Бутерин выступил с резкой критикой в адрес крупнейших игроков индустрии искусственного интеллекта. По его мнению, риторика, исходящая от некоторых ИИ-гигантов, граничит с откровенными мечтами о «мировом господстве» и не предлагает никакого внятного плана по безопасному управлению переходом к искусственному суперинтеллекту (ASI).
Поводом для заявления Бутерина стала дискуссия вокруг прогностического сценария «ИИ 2040» и его критиков. Как я анализирую ситуацию, создатель Ethereum видит фундаментальную проблему: обе стороны дискуссии застряли в «взаимно несовместимых картинах мира» относительно темпов развития искусственного интеллекта.
Наивность в квадрате: два сценария будущего
Бутерин отмечает, что сценарий «ИИ 2040» предполагает появление суперинтеллекта к 2040 году практически при любом развитии событий, за исключением титанических усилий по его полной остановке. Критики же, по его наблюдению, называют такой прогноз наивным в оценке способности человечества к координации. Однако, как подчеркивает аналитик, они сами не замечают собственной наивности, допуская, что переход к ASI пройдет гладко и по умолчанию.
По сути, по словам Бутерина, человечество застряло перед выбором между «наивным» и «наивным в квадрате» сценариями. Позиция критиков имеет смысл только в мире, где ИИ остается «обычной технологией». Но в мире, где суперинтеллект возможен уже к 2030 году, она, по его убеждению, не выдерживает критики. Сам Виталик признается в неопределенности: если бы он был уверен хотя бы в одном из сценариев, он бы присоединился к соответствующему лагерю.
Концентрация власти как главный риск
Отдельного внимания заслуживает критика Бутериным риторики самих ИИ-компаний. Его настораживает установка вида: «открытый код — это плохо, а хороший исход — тот, где наши парни получают контролирующее мировое господство». Я считаю, что это крайне опасный сигнал. В нормальном мире подобные заявления должны включать все политические тревожные сигналы одновременно. Сам суперинтеллект Бутерин рассматривает как колоссальный риск концентрации власти.
Именно поэтому он продвигает платформу d/acc, которая включает развитие формальной верификации, криптографии, защищенного открытого оборудования, устойчивости к пандемиям и общественной эпистемологии. Ценность этих направлений в том, что они полезны в обоих сценариях будущего. Примечательно, что Бутерин положительно оценил то, что план «ИИ 2040» стал более дружелюбным к открытому коду и даже предписывает его.
Поиск компромисса: триггеры для паузы
Ключевым элементом своей позиции Бутерин считает поиск сделки, приемлемой для обеих сторон. Он предлагает заранее согласовать набор триггеров, сигнализирующих о том, что «происходит нечто серьезное». В качестве примеров он называет суперпандемии, уровень безработицы выше 25% или появление автономного оружия.
Если достаточное количество таких триггеров сработает в оговоренный срок, стороны заранее соглашаются серьезно рассмотреть замедление или паузу. Критики, по его идее, примут это, ожидая, что триггеры не сработают, а обеспокоенные — ожидая обратного.
Обращаясь к главам технологических гигантов, Бутерин предположил, что на месте Илона Маска или Марка Цукерберга он перестроил бы социальные платформы под поиск подобных взаимовыгодных сделок. Впрочем, он сам признает, что и эта идея наивна.
Мнение эксперта: Позиция Бутерина — это редкий пример рационального подхода к экзистенциальным рискам ИИ. Его предложение по «триггерам» — это не техническое решение, а политический механизм, который может стать основой для глобального консенсуса. Криптосообществу стоит присмотреться к этой логике, ведь децентрализация и формальная верификация — это именно те инструменты, которые могут обеспечить прозрачность и надежность таких соглашений.