Сооснователь Ethereum Виталик Бутерин вновь оказался в центре дискуссии о будущем искусственного интеллекта. На этот раз его критика направлена на гигантов ИИ-индустрии, чьи амбиции, по его мнению, граничат с мечтами о «мировом господстве». Бутерин заявил, что не видит ни одного внятного и реалистичного плана по управлению переходом к искусственному суперинтеллекту (ASI). Человечество, по его словам, застряло между двумя сценариями: «наивным» и «наивным в квадрате».

Поводом для заявлений стала дискуссия вокруг прогнозного сценария «ИИ 2040», который предполагает появление суперинтеллекта к 2040 году почти при любом развитии событий. Критики этого сценария, по мнению Бутерина, наивно полагают, что люди смогут скоординироваться и остановить этот процесс. Однако сами они, как подчеркивает разработчик, не замечают собственной наивности, допуская, что переход к ASI пройдет гладко и безболезненно.

Бутерин отмечает, что позиция критиков имеет смысл лишь в мире, где ИИ остается «обычной технологией». Но в мире, где суперинтеллект возможен уже к 2030 году, она не выдерживает никакой критики. Сам он признается в неопределенности: если бы был уверен хотя бы в одном из сценариев, то примкнул бы к соответствующему лагерю. Пока же он не понимает, в каком из миров живет человечество.

Опасения по поводу концентрации власти

Отдельно Бутерин выразил дискомфорт от риторики некоторых крупных ИИ-компаний. Его настораживает установка вида: «открытый код — это плохо, а хороший исход — тот, где наши парни получают контролирующее мировое господство». По его мнению, в «нормальном» мире подобные заявления должны включать все политические тревожные сигналы одновременно.

Сам суперинтеллект Бутерин рассматривает как огромный риск концентрации власти. Именно поэтому он продвигает платформу под названием d/acc, которая включает развитие формальной верификации, криптографии, защищенного открытого оборудования, устойчивости к пандемиям и общественной эпистемологии. Ценность этих направлений в том, что они полезны в обоих сценариях будущего.

Как найти компромисс

Ключевым разработчик Ethereum считает поиск сделки, приемлемой для обеих сторон. «Выигрышной будет договоренность, которую обе стороны примут, исходя из своих нынешних убеждений, пусть и по разным причинам», — отметил Бутерин.

Он предложил заранее согласовать набор триггеров, сигнализирующих о том, что «происходит нечто серьезное». В качестве примеров он назвал суперпандемии, уровень безработицы выше 25% или появление автономного оружия. Если достаточное количество таких триггеров сработает в оговоренный срок, стороны заранее соглашаются серьезнее рассматривать замедление или паузу.

Бутерин также обратился к главам технологических гигантов, предположив, что будь он на месте Илона Маска или Марка Цукерберга, то перестроил бы социальные платформы под поиск подобных взаимовыгодных сделок. Впрочем, он признал, что и эта идея наивна.

Мнение аналитика: Позиция Бутерина — это редкий пример рационального подхода к дискуссии об ИИ. Вместо того чтобы вставать на одну из сторон, он предлагает механизм, который может сработать в любом сценарии. Для криптосообщества это особенно ценно: принципы децентрализации и открытого кода, которые отстаивает Бутерин, могут стать основой для построения безопасного будущего, независимо от того, наступит ли сингулярность завтра или через 20 лет.