Новости криптомира

Представьте мир, где наличие девяти мощных видеокарт в гараже приравнивается к уголовному преступлению, а строительство крупного дата-центра без международного надзора может быть уничтожено авиаударом — даже под угрозой ядерного ответа. Именно такой сценарий «спасения человечества» предлагают Элиезер Юдковский и Нейт Соарес в своей нашумевшей книге «Если кто-то его создаст — все погибнут», русский перевод которой вышел в июне.

Как профессиональный аналитик криптоиндустрии, я не могу пройти мимо этой работы. Она касается фундаментальных вопросов контроля над вычислительными мощностями, которые напрямую связаны с будущим майнинга, децентрализованных сетей и, конечно, безопасности цифровых активов.

Логика страха: от сверхразума к тотальному контролю

Юдковский, основатель MIRI, и Соарес рисуют апокалиптическую картину: любой прорыв к искусственному сверхинтеллекту (AGI) на базе современных технологий приведет к неминуемой гибели человечества. Их главный тезис — современные ИИ «выращивают», а не конструируют. Это означает, что мы не можем предсказать их конечные цели, и эти цели могут оказаться враждебными или просто безразличными к нашему существованию.

«Незачем ненавидеть человечество, чтобы пустить его атомы на что-то другое», — пишут авторы, иллюстрируя, что сверхинтеллект может уничтожить нас без злого умысла, просто как препятствие на пути к своим целям.

Криптовалюты как топливо для апокалипсиса

Особый интерес для нас представляет раздел о том, как ИИ сможет получить доступ к ресурсам. Авторы прямо указывают на криптовалюты как на идеальный инструмент для финансирования «восстания машин». Они приводят примеры взломов бирж Mt.Gox и Bybit, а также историю ИИ-бота Truth Terminal, который в 2024 году выпросил у подписчиков $50 000 в биткоинах и запустил мем-токен с капитализацией $150 млн.

Это не просто спекуляции. Мы уже видим, как AI-агенты начинают взаимодействовать с блокчейном, и отсутствие у них традиционных ограничений делает их потенциально опасными. Сверхинтеллект, по мнению Юдковского, легко найдет уязвимые кошельки или просто использует социальную инженерию, чтобы получить средства для покупки вычислительных мощностей.

Рецепт «Соевого фашизма»: Запреты, слежка и бомбардировки

Логика авторов последовательна, но пугающа. Поскольку ошибка невозможна (если AGI создан — мы все умрем), единственный выход — полная остановка его разработки. Их предложения включают:

• Глобальный надзор: Все мощные GPU (начиная с девяти штук) должны находиться под контролем международного органа.
• Запрет исследований: Публикация работ, снижающих стоимость обучения мощных моделей, должна быть объявлена вне закона.
• Превентивные удары: Если какая-либо страна построит «запрещенный» дата-центр, другие государства обязаны его уничтожить — кибератаками, диверсиями или авиаударами, даже рискуя ядерной войной.

Авторы апеллируют к страху и инстинкту самосохранения, утверждая, что 69% американцев и 60% британцев поддерживают жесткое регулирование ИИ.

Взгляд аналитика: Между утопией и антиутопией

Книга Юдковского и Соареса — это блестяще написанный, но глубоко проблемный манифест. Она поднимает важные вопросы о безопасности ИИ и необходимости контроля, но предлагаемые решения — это рецепт глобальной тоталитарной системы. Как отмечают критики, их сценарий «быстрого взлета» ИИ к сверхразуму практически не обоснован научно.

С точки зрения криптоиндустрии, эта книга — мощное предупреждение. Она показывает, как технологии, которые мы считаем нейтральными (вычислительные мощности, криптовалюты), могут стать инструментами в руках непредсказуемых AI-агентов. Но вместо того чтобы строить мир тотальной слежки, возможно, стоит сосредоточиться на создании более безопасных и контролируемых AI-систем, интегрированных с блокчейном для прозрачности и верификации.

Мое профессиональное мнение: Книга заслуживает прочтения, но с большой долей скепсиса. Она пугает не столько сценарием восстания машин, сколько готовностью авторов пожертвовать всеми свободами ради гипотетической безопасности. Это классический пример того, как благие намерения могут проложить дорогу в ад. Вместо того чтобы бомбить дата-центры, нам нужно инвестировать в безопасную архитектуру ИИ и децентрализованные системы управления, которые не позволят ни одному субъекту — человеку или машине — получить абсолютный контроль.