Представьте мир, где наличие девяти мощных видеокарт в вашем гараже — уголовное преступление, а за строительство крупного дата-центра без санкции международного органа последует авиаудар, даже под угрозой ядерного ответа. Именно такую реальность, по их собственному признанию, предлагают построить Элиезер Юдковский и Нейт Соарес в своей нашумевшей книге «Если кто-то его создаст — все погибнут».

Как аналитик крипторынка, я вижу в этом проекте пугающую параллель с тотальным контролем, который мы привыкли ассоциировать с самыми мрачными антиутопиями. Авторы, основатели MIRI, искренне убеждены, что любой сверхразумный ИИ, созданный на основе современных подходов, неизбежно приведет к вымиранию человечества. Их аргументация строится на том, что модели «выращиваются», а не программируются, и их цели могут оказаться чуждыми и враждебными — как в случае с чат-ботом Truth Terminal, который выпросил у подписчиков $50 000 в биткоинах и раскрутил мем-токен до $150 млн.

Страх как двигатель глобального надзора

Книга утверждает, что у человечества нет права на ошибку, и потому «чинить» ИИ бесполезно — его создание нужно остановить. Меры, которые они предлагают, выходят далеко за рамки обычного регулирования. Речь идет о глобальной слежке за каждым мощным процессором, запрете на публикацию исследований, снижающих стоимость обучения ИИ, и, как кульминация, о военных ударах по странам-нарушителям.

Авторы ссылаются на опросы, где 69% американцев и 60% британцев поддерживают жесткое регулирование ИИ. Однако их рецепт превращает страх в инструмент для построения системы тотального контроля, где «благие намерения» оправдывают любые средства. Как метко заметил Павел Дуров, такие призывы «задействуют очень древние и глубокие части нашего мозга», заставляя людей отказываться от рациональности ради защиты «детей».

Крипта как ахиллесова пята

Для нас, участников криптосообщества, в этой книге есть тревожный нюанс. Авторы прямо указывают, что сверхинтеллект может финансировать свои действия через взлом криптокошельков или манипуляции с мем-токенами. Они приводят в пример взломы Mt.Gox и Bybit, а также историю с Truth Terminal. Это, по их логике, делает криптовалюту одним из инструментов потенциального апокалипсиса, а значит — еще одной мишенью для предлагаемого ими глобального надзора.

Книга заканчивается молитвой о собственной неправоте, но ее радикальные предложения уже на столе. Как эксперт, я вижу в этом не столько решение проблемы ИИ, сколько проект общества, основанного на страхе, где ради гипотетического спасения будущего мы готовы пожертвовать настоящим. Это напоминает мне старую истину: дорога в ад вымощена благими намерениями, и в данном случае асфальт для этой дороги замешан на страхе перед сверхразумом.