Генеральный секретарь ООН выступил с резким предупреждением: искусственный интеллект вышел из-под контроля, и существующие институты управления к этому не готовы. Он призвал к немедленному введению глобальных правил для передовых ИИ-систем, особо выделив необходимость защиты детей и запрета автономных летальных вооружений.

«ИИ развивается с неконтролируемой скоростью», — заявил глава ООН, назвав происходящее «экспериментом над обществами без плана и без согласия». По его оценке, если интернету потребовалось 15 лет, чтобы привлечь миллиард пользователей, то ИИ справился с этим за два года. ChatGPT, в свою очередь, набрал 100 миллионов пользователей всего за два месяца — беспрецедентный темп.

Ключевая проблема, по мнению эксперта, заключается в том, что современные системы уже не просто выполняют команды — они пишут код, принимают решения и действуют в сети с минимальным человеческим контролем. «Наши институты создавались для управления машинами, которые выполняют команды. Они не готовы к машинам, которые принимают решения», — подчеркнул он.

«Вайб-кодинг» как угроза будущему

Особый акцент был сделан на метафоре «вайб-кодинга» — пассивного подхода, когда система работает без понимания механизмов и последствий. «Мы не можем вайб-кодить истину. Мы не можем вайб-кодить будущее человечества», — заявил Гутерриш, предлагая странам выбор между осознанным управлением и пассивным дрейфом.

Защита детей: три принципа

Одним из главных приоритетов названа защита детей от нерегулируемого ИИ. Предложено три ключевых принципа:

  1. Запрет на запуск ИИ-систем, доступных детям, без специального тестирования и независимого надзора.
  2. Нулевая терпимость к генерации сексуализированных изображений несовершеннолетних — с обязательным выявлением, удалением и сообщением о таких материалах.
  3. Недопустимость оставления ребенка в кризисе один на один с чат-ботом: при обнаружении признаков тяжелого состояния система должна остановиться и подключить реальную человеческую поддержку.
«Ни один ребенок не должен быть подопытным кроликом для нерегулируемого ИИ», — резюмировал глава ООН.

Запрет «роботов-убийц»

Военное применение ИИ также оказалось в центре внимания. Гутерриш призвал запретить международным правом летальные автономные системы вооружений — машины, способные выбирать и поражать цели без человеческого контроля. «Назовем их тем, чем они являются: роботы-убийцы», — заявил он, назвав такие системы «морально отвратительными» и «политически неприемлемыми».

Цифровой разрыв и энергопотребление

Отдельно была поднята проблема цифрового неравенства. Глава ООН анонсировал рекомендации по созданию глобального фонда для ИИ, который должен помочь развивающимся странам получить доступ к высокопроизводительным вычислениям, открытым данным и моделям. Он также отметил, что дата-центры уже потребляют больше электроэнергии, чем большинство стран, а к 2030 году могут превзойти по энергопотреблению все государства, кроме пяти.

Мой комментарий: Призывы ООН — это сигнал, который нельзя игнорировать, но реальность такова, что глобальное регулирование ИИ сталкивается с гигантскими политическими и экономическими препятствиями. Пока ведущие державы спорят о стандартах, технология продолжает ускоряться, и каждый день промедления увеличивает риски, особенно для самых уязвимых слоев населения. Рынок криптовалют и блокчейна, в свою очередь, может стать полигоном для тестирования децентрализованных моделей управления ИИ, но это потребует совершенно иного уровня координации.