Виталик Бутерин: ИИ-гиганты грезят о «мировом господстве», а человечество застряло между двух «наивностей»
Сооснователь Ethereum Виталик Бутерин выступил с резкой критикой в адрес крупнейших игроков индустрии искусственного интеллекта. По его мнению, дискуссия вокруг перехода к искусственному суперинтеллекту (ASI) зашла в тупик: человечество оказалось перед выбором между «наивным» и «наивным в квадрате» сценариями развития событий.
Суть спора: скорость vs. контроль
Поводом для заявления Бутерина стала дискуссия вокруг прогнозного сценария «ИИ 2040», который предполагает появление суперинтеллекта к 2040 году практически при любом раскладе — за исключением титанических усилий по его полной остановке. Критики этого сценария, по наблюдениям разработчика, называют его наивным в оценке способности человечества к координации. Однако сами они, утверждает Бутерин, проявляют не меньшую наивность, полагая, что переход к ASI пройдет гладко и по умолчанию.
Бутерин подчеркивает: позиция критиков имеет смысл только в мире, где ИИ остается «обычной технологией». Но в мире, где суперинтеллект возможен уже к 2030 году, она, по его словам, не выдерживает критики. Сам Виталик признается в неопределенности: будь он уверен хотя бы в одном из сценариев, он примкнул бы к соответствующему лагерю. Пока же он не понимает, в каком из миров живет человечество.
Опасения по поводу концентрации власти
Отдельно Бутерин выразил дискомфорт от риторики некоторых крупных ИИ-компаний. Его настораживает установка вида: «открытый код — это плохо, а хороший исход — тот, где наши парни получают контролирующее мировое господство». В «нормальном» мире, считает он, подобные заявления должны включать все политические тревожные сигналы одновременно. Сам суперинтеллект Бутерин рассматривает как огромный риск концентрации власти.
Именно поэтому он продвигает платформу d/acc, которая включает развитие формальной верификации, криптографии, защищенного открытого оборудования, устойчивости к пандемиям и общественной эпистемологии. Ценность этих направлений в том, что они полезны в обоих сценариях будущего. При этом Бутерин положительно оценил, что план «ИИ 2040» стал более дружелюбным к открытому коду и даже предписывает его.
Как найти компромисс
Ключевым разработчик Ethereum считает поиск сделки, приемлемой для обеих сторон. «Выигрышной будет договоренность, которую обе стороны примут, исходя из своих нынешних убеждений, пусть и по разным причинам», — отметил он.
Бутерин предложил заранее согласовать набор триггеров, сигнализирующих о том, что «происходит нечто серьезное». В качестве примеров он назвал суперпандемии, уровень безработицы выше 25% или появление автономного оружия. Если достаточное количество таких триггеров сработает в оговоренный срок, стороны заранее соглашаются серьезно рассмотреть замедление или паузу. По его идее, критики примут это, ожидая, что триггеры не сработают, а обеспокоенные — ожидая обратного.
Отдельно Бутерин обратился к главам технологических гигантов. По его словам, будь он на месте Илона Маска или Марка Цукерберга, он перестроил бы социальные платформы под поиск подобных взаимовыгодных сделок. Впрочем, он признал, что и эта идея наивна.
Комментарий аналитика: Позиция Бутерина — это редкий случай, когда один из ключевых архитекторов криптоиндустрии выходит за рамки своей экосистемы и предлагает глобальный фреймворк для управления рисками ASI. Его идея с триггерами — это, по сути, попытка применить принципы смарт-контрактов к регулированию ИИ. Однако, как и в случае с DeFi, ключевым вопросом остается не техническая реализация, а способность враждующих сторон сесть за стол переговоров.