Бутерин против «мирового господства» ИИ: наивность или опасность?
Сооснователь Ethereum Виталик Бутерин выступил с резкой критикой в адрес крупных игроков индустрии искусственного интеллекта, обвинив их в опасных амбициях и отсутствии внятного плана по управлению переходом к искусственному суперинтеллекту (ASI). По его словам, человечество оказалось перед выбором между двумя «наивными» сценариями, ни один из которых не выглядит убедительно.
Спор о скорости развития ИИ
Поводом для дискуссии стал прогнозный сценарий «ИИ 2040», предполагающий появление суперинтеллекта к 2040 году практически при любом раскладе. Бутерин отмечает, что критики этого сценария, напротив, считают его чересчур оптимистичным в оценке способности людей к координации. Однако сам разработчик Ethereum указывает на их собственную наивность: они полагают, что переход к ASI по умолчанию пройдет гладко.
Бутерин подчеркивает, что позиция скептиков имеет смысл только в мире, где ИИ остается «обычной технологией». Но если суперинтеллект станет возможен уже к 2030 году, их аргументы, по его мнению, рассыпаются. Сам Виталик признается в неопределенности: он не понимает, в каком из этих двух миров мы живем, и не готов безоговорочно присоединиться ни к одному из лагерей.
Опасения по поводу концентрации власти
Особое беспокойство Бутерина вызывает риторика некоторых ИИ-гигантов, которую он характеризует как «открытый код — это плохо, а хороший исход — когда наши парни получают контролирующее мировое господство». По его мнению, такие заявления должны включать все политические тревожные сигналы одновременно. Суперинтеллект он рассматривает как колоссальный риск концентрации власти.
Именно поэтому Бутерин продвигает платформу d/acc, включающую развитие формальной верификации, криптографии, защищенного открытого оборудования, устойчивости к пандемиям и общественной эпистемологии. Ценность этих направлений в том, что они полезны в обоих сценариях будущего.
Поиск компромисса
Ключевым для разработчика Ethereum является поиск сделки, приемлемой для обеих сторон. Бутерин предлагает заранее согласовать набор триггеров, сигнализирующих о том, что «происходит нечто серьезное» — например, суперпандемии, уровень безработицы выше 25% или появление автономного оружия. Если достаточное количество таких триггеров сработает в оговоренный срок, стороны заранее соглашаются серьезно рассмотреть замедление или паузу.
Обращаясь к главам технологических гигантов, Бутерин предлагает перестроить социальные платформы под поиск взаимовыгодных решений, хотя и признает наивность этой идеи.
Мнение эксперта: Бутерин вновь демонстрирует системное мышление, выводя дискуссию за рамки чисто технологических споров. Его предложение о триггерах — это попытка создать механизм управления рисками, который может быть принят обеими сторонами. Однако вопрос остается открытым: готовы ли лидеры ИИ-индустрии поступиться амбициями ради безопасности?