Виталик Бутерин против «мирового господства» ИИ: критика гигантов и поиск компромисса
Сооснователь Ethereum Виталик Бутерин вновь оказался в центре дискуссии о будущем искусственного интеллекта. На этот раз его критика направлена против риторики крупнейших ИИ-компаний, чьи амбиции, по мнению разработчика, граничат с опасной наивностью и стремлением к концентрации власти.
Два лагеря наивности
Поводом для заявления Бутерина послужил сценарий «ИИ 2040», который предсказывает появление общего искусственного интеллекта (AGI) к 2040 году практически при любом развитии событий. Критики этого прогноза, в свою очередь, называют его наивным, полагая, что человечество способно скоординироваться и остановить этот процесс.
Бутерин, однако, видит проблему глубже. По его мнению, обе стороны «заперты во взаимно несовместимых картинах мира». Критики сценария «ИИ 2040» не замечают собственной наивности, полагая, что переход к суперинтеллекту пройдет гладко и под контролем. Сторонники же ускоренного развития, по сути, предлагают мир, где «наши парни получают контролирующее мировое господство», что, как отмечает Бутерин, должно вызывать политическую тревогу.
Риски концентрации власти
Особое беспокойство у создателя Ethereum вызывает риторика «открытый код — это плохо, а хороший исход — это когда мы контролируем мир». Он подчеркивает, что сам по себе суперинтеллект представляет собой колоссальный риск концентрации власти. Именно поэтому Бутерин последовательно продвигает платформу d/acc, которая включает развитие формальной верификации, криптографии, защищенного открытого оборудования и устойчивости к пандемиям.
Ценность этих направлений, по его словам, в том, что они полезны в любом сценарии будущего — как при быстром, так и при медленном развитии ИИ.
Поиск компромисса: триггеры и сделки
Бутерин предлагает прагматичный подход: заранее согласовать набор триггеров, сигнализирующих о серьезных проблемах. В качестве примеров он называет суперпандемии, уровень безработицы выше 25% или появление автономного оружия. Если достаточное количество таких триггеров сработает к оговоренному сроку, стороны обязуются серьезно рассмотреть замедление или паузу в развитии ИИ.
«Выигрышной будет договоренность, которую обе стороны примут исходя из своих нынешних убеждений, пусть и по разным причинам», — отмечает Бутерин. Критики ускорения примут это, ожидая, что триггеры не сработают, а обеспокоенные — наоборот. Он также обратился к лидерам tech-гигантов, предлагая им перестроить социальные платформы под поиск подобных взаимовыгодных сделок, хотя и признает наивность этой идеи.
Мнение эксперта: Позиция Бутерина — это редкий пример здравого смысла в истеричной гонке ИИ. Его предложение о «триггерах» — не техническое решение, а политический инструмент. Однако, учитывая текущую динамику рынка и амбиции корпораций, едва ли кто-то из гигантов добровольно согласится на «красную кнопку». Криптосообществу стоит присмотреться к этой дискуссии: децентрализация и формальная верификация, которые продвигает Бутерин, могут стать единственным реальным противовесом централизации ИИ-мощностей.