Сооснователь Ethereum Виталик Бутерин вновь обозначил свою принципиальную позицию относительно развития искусственного интеллекта. На этот раз его критика направлена на крупнейшие ИИ-компании, чьи амбиции, по его мнению, граничат с откровенными мечтами о «мировом господстве». В центре дискуссии оказался сценарий «ИИ 2040», который, как считает Бутерин, представляет собой выбор между «наивным» и «наивным в квадрате» подходом к управлению переходом к искусственному суперинтеллекту (ASI).

Согласно моему анализу, суть спора сводится к фундаментальному разрыву в восприятии темпов и рисков ИИ. Сценарий «ИИ 2040» предполагает, что ASI станет реальностью почти при любом раскладе к 2040 году, если только человечество не предпримет титанических усилий для его полной остановки. Критики этого сценария, по наблюдению Бутерина, упрекают его в наивной вере в способность людей к координации. Но сам разработчик парирует: они наивны, полагая, что переход к ASI пройдет гладко и бесконфликтно по умолчанию.

Бутерин подчеркивает, что позиция критиков имеет смысл только в мире, где ИИ остается «обычной технологией». Однако в мире, где ASI возможен уже к 2030 году, эта критика просто не выдерживает проверки. Сам Виталик признается в неопределенности: он не может с уверенностью сказать, в каком из этих миров мы живем. Если бы он был уверен хотя бы в одном сценарии, он бы присоединился к соответствующему лагерю. Это признание — ключевой сигнал для рынка: даже ведущие умы отрасли не имеют единого видения будущего.

Опасения по поводу концентрации власти

Особое беспокойство Бутерина вызывает риторика гигантов вроде OpenAI и других. Его настораживает установка, что «открытый код — это плохо, а хороший исход — это когда наши парни получают контролирующее мировое господство». По его мнению, в «нормальном» мире подобные заявления должны включать все политические тревожные сигналы одновременно. Сам суперинтеллект он рассматривает как колоссальный риск концентрации власти.

Именно поэтому Бутерин последовательно продвигает платформу d/acc (defensive acceleration). Эта концепция включает развитие формальной верификации, криптографии, защищенного открытого оборудования, устойчивости к пандемиям и общественной эпистемологии. Ценность этих направлений в том, что они полезны в обоих сценариях будущего — как при быстром, так и при медленном развитии ИИ. Примечательно, что Виталик положительно оценил, что план «ИИ 2040» стал более дружелюбным к открытому коду и даже предписывает его использование.

Поиск компромисса

Ключевым элементом своей стратегии Бутерин видит поиск сделки, приемлемой для обеих сторон. Он предлагает заранее согласовать набор триггеров, сигнализирующих о том, что «происходит нечто серьезное». В качестве примеров он называет суперпандемии, уровень безработицы выше 25% или появление автономного оружия.

Если достаточное количество таких триггеров сработает в оговоренный срок, стороны заранее соглашаются серьезно рассмотреть замедление или паузу в развитии. Идея в том, что критики примут это, ожидая, что триггеры не сработают, а обеспокоенные — ожидая обратного. Бутерин даже обратился к главам технологических гигантов, заявив, что на месте Илона Маска или Марка Цукерберга он бы перестроил социальные платформы под поиск подобных взаимовыгодных сделок. Впрочем, он сам признает, что и эта идея наивна.

Мой анализ: Позиция Бутерина — это, по сути, призыв к децентрализации управления рисками ASI. В мире, где криптовалюты и блокчейн предлагают альтернативные модели управления, его критика ИИ-гигантов — это не просто философский спор, а защита базовых принципов распределенной власти. Рынку стоит внимательно следить за развитием d/acc, так как именно эти технологии могут стать мостом между крипто-миром и безопасным развитием ИИ.