Бывший исследователь OpenAI Дэниел Кокотайло, покинувший компанию в апреле 2024 года из-за разногласий по вопросам безопасности, представил новый амбициозный сценарий спасения мира от угрозы сверхинтеллекта. Документ под названием AI 2040: Plan A предлагает международное соглашение, которое должно притормозить гонку за искусственным интеллектом до 2040 года, снизив риски катастрофического исхода.
Суть плана: пауза до 2040 года
Ключевая идея — заключение сделки между США и Китаем в 2029 году об отказе от форсированной разработки сверхинтеллекта. Вместо этого страны будут развивать нейросети постепенно, до уровня лучших экспертов-людей. К 2035 году развитие полностью приостанавливается, чтобы сохранить контроль человека над системами. И только в 2040 году пауза снимается, и ИИ достигает уровня сверхинтеллекта. Это дает время для исследований безопасности и предотвращает автоматизацию разработок, которая, по расчетам, произошла бы уже в 2030 году.
Четыре принципа и механизм верификации
План опирается на четыре столпа: выигрыш времени для безопасности, полная прозрачность разработок, распределение ИИ между разными странами и компаниями, а также сохранение обратимости процесса. Для обеспечения доверия предлагается использовать спутниковую верификацию — крупные дата-центры видны из космоса. Первый шаг: страны публично декларируют закупки чипов, затем вводится временная пауза на обучение моделей, подтверждаемая датчиками. После подтверждения доверия ограничения снимаются, но исследования остаются полностью прозрачными.
От срыва сделки защищает «взаимно гарантированное уничтожение вычислительных мощностей» — по аналогии с ядерным сдерживанием. Новые дата-центры Китая предлагается строить в Канаде, а объекты США — в Монголии, чтобы в случае конфликта их было проще уничтожить, нежели отдать противнику.
Экономические последствия: рост ВВП и гражданские дивиденды
Расчеты показывают, что мировые вычислительные мощности вырастут с 20 млн H100-эквивалентов в 2026 году до 60 млрд к 2034-му. Реальный рост ВВП США в отдельные периоды 2030-х годов может достигать 50% в год, но занятость упадет с 62% в 2027 году до 12% к 2040-му. Для компенсации предлагается ввести «гражданские дивиденды» — выплаты из доходов государства от лицензирования вычислений и роботов. Прогнозы впечатляют: к 2032 году дивиденд составит $45 000 на человека, к 2035 — $1 млн, а к 2039 — $10 млн.
Альтернативные сценарии: от войны до олигархии
Авторы противопоставили Plan A четырем другим путям развития событий. План B — США создают коалицию и давят на Китай вплоть до кибератак, что ведет к войне. План C — попытка договориться, но под давлением компаний паузу снимают, что грозит постоянной олигархией. План D — минимальное регулирование и гонка, ведущая к потере контроля и третьей мировой войне. План S — полная бессрочная остановка, которая рискует распасться и возобновить гонку в хаосе.
Мой комментарий как аналитика: Предложенный сценарий выглядит утопично, особенно в части «взаимно гарантированного уничтожения» и строительства дата-центров на территории союзников. Однако он поднимает критически важный вопрос: сможет ли человечество добровольно отказаться от гонки за сверхинтеллектом, когда ставки так высоки? Реалистичность плана вызывает сомнения, но сама постановка проблемы — сигнал, который нельзя игнорировать.