ООН бьёт тревогу: Гутерриш требует немедленного глобального регулирования ИИ и запрета «роботов-убийц»
Генеральный секретарь ООН Антониу Гутерриш выступил на Глобальном диалоге по управлению ИИ с серией жёстких предупреждений и конкретных предложений. По его мнению, мир уже столкнулся с «экспериментом над обществами без плана и без согласия», и текущие темпы внедрения технологий требуют немедленного пересмотра подходов к регулированию.
Ключевой тезис выступления: скорость распространения ИИ беспрецедентна. Если интернету потребовалось 15 лет, чтобы привлечь первый миллиард пользователей, то ChatGPT достиг 100 миллионов всего за два месяца. При этом современные системы уже не просто реагируют на команды — они пишут код, действуют автономно и принимают решения при минимальном участии человека. Гутерриш подчеркнул: «Наши институты создавались для управления машинами, которые выполняют команды. Они не готовы к машинам, которые принимают решения».
«Вайб-кодинг» и защита детей
Особое внимание генсек уделил защите несовершеннолетних. Он призвал все ИИ-компании принять AI Child Safety Pledge — обязательство по безопасности систем, доступных детям. В основе инициативы три принципа: обязательное тестирование и независимый надзор перед запуском, нулевая терпимость к генерации сексуализированных материалов и немедленное подключение реальной человеческой поддержки при выявлении кризисного состояния у ребёнка. «Ни один ребенок не должен быть подопытным кроликом для нерегулируемого ИИ», — заявил Гутерриш.
В качестве метафоры пассивного управления он использовал термин «вайб-кодинг» — когда системе позволяют работать без вникания в механизмы и последствия. «Мы не можем вайб-кодить истину. Мы не можем вайб-кодить будущее человечества», — резюмировал он.
Запрет летальных автономных систем
Отдельный блок выступления касался военного применения ИИ. Гутерриш призвал запретить международным правом летальные автономные системы вооружений — машины, способные выбирать и поражать цели без участия человека. Он прямо назвал их «роботами-убийцами», подчеркнув, что такие системы «морально отвратительны» и «политически неприемлемы». По его словам, государства не должны ждать трагедии, чтобы начать действовать.
Глобальный фонд и прозрачность
Для преодоления цифрового разрыва генсек анонсировал создание глобальной сети обмена ИИ-компетенциями и рекомендовал учредить специальный фонд. Он также отметил, что дата-центры уже потребляют больше электроэнергии, чем большинство стран, а к 2030 году могут превзойти по энергопотреблению все государства, кроме пяти. «Если ИИ должен быть мощным, им нужно управлять. Если ИИ должен вызывать доверие, те, кто его создает, должны нести ответственность», — заключил Гутерриш.
Мой анализ: Инициативы ООН — важный сигнал, но без конкретных механизмов принуждения они рискуют остаться декларациями. Реальная борьба за регулирование ИИ будет разворачиваться на национальном уровне, где интересы крупных технологических корпораций и государств часто противоречат глобальной повестке.