Генеральный секретарь ООН Антониу Гутерриш выступил с резким заявлением на Глобальном диалоге по управлению ИИ. Его посыл однозначен: развитие искусственного интеллекта выходит из-под контроля, и мировое сообщество обязано немедленно принять общие правила. Речь идет не просто о технологическом прогрессе, а о фундаментальных рисках для человечества.
Гутерриш подчеркнул, что ИИ распространяется с беспрецедентной скоростью. Если интернету потребовалось 15 лет, чтобы достичь миллиарда пользователей, то ChatGPT покорил 100 миллионов всего за два месяца. Современные системы уже не ждут команд — они пишут код, действуют онлайн и принимают решения при минимальном участии человека. «Наши институты создавались для машин, которые выполняют команды, — заявил он. — Они не готовы к машинам, которые принимают решения».
«Вайб-кодинг» и будущее человечества
Особое внимание генсек уделил концепции «вайб-кодинга» — пассивного подхода, при котором мы позволяем ИИ работать без глубокого понимания механизмов и последствий. «Мы не можем вайб-кодить истину, — предупредил Гутерриш. — Мы не можем вайб-кодить будущее человечества». По его мнению, перед нами стоит выбор не между страхом и верой в ИИ, а между осознанным управлением и пассивным дрейфом.
Защита детей: три принципа
Одним из ключевых приоритетов Гутерриш назвал безопасность несовершеннолетних. ИИ уже проник в обучение и личное общение детей, но общество не проверило его последствия. «Ни один ребенок не должен быть подопытным кроликом для нерегулируемого ИИ», — подчеркнул он. ООН предложила три принципа:
1. Не запускать системы для детей без специального тестирования и независимого надзора.
2. Нулевая терпимость к генерации сексуализированных изображений несовершеннолетних.
3. В кризисных ситуациях чат-боты должны останавливаться и подключать реальную человеческую поддержку.
«Роботы-убийцы» и глобальный фонд
Гутерриш также призвал международное право запретить летальные автономные системы вооружений — машины, способные выбирать и поражать цели без человеческого контроля. «Назовем их тем, чем они являются: роботы-убийцы, — заявил он. — Они морально отвратительны и политически неприемлемы». Кроме того, он анонсировал создание глобального фонда для ИИ, который поможет развивающимся странам получить доступ к вычислительным ресурсам и знаниям. По его словам, дата-центры уже потребляют больше энергии, чем большинство стран, а к 2030 году могут обогнать все государства, кроме пяти.
Мой анализ: Заявление Гутерриша — это четкий сигнал о том, что регулирование ИИ переходит из плоскости обсуждений в практическую плоскость. Особенно важно его внимание к концентрации данных и вычислительных мощностей в руках узкого круга корпораций. Если эта тенденция сохранится, мы рискуем получить не просто технологическое неравенство, а новую форму цифрового колониализма. Вопрос не в том, нужно ли регулировать ИИ, а в том, сможем ли мы сделать это достаточно быстро, чтобы избежать необратимых последствий.