Генеральный секретарь ООН Антониу Гутерриш выступил с жёстким заявлением на Глобальном диалоге по управлению ИИ. Его посыл предельно ясен: текущая скорость развития искусственного интеллекта превратилась в неконтролируемый «эксперимент над обществами», который проводится без плана и без согласия человечества. Гутерриш призвал к немедленному введению общих правил для передовых ИИ-систем, защите детей от рисков чат-ботов и запрету летальных автономных вооружений.
Ключевой тезис генсека — институты, созданные для управления машинами, которые выполняют команды, абсолютно не готовы к машинам, которые принимают решения. Он подчеркнул, что интернету потребовалось 15 лет, чтобы достичь миллиарда пользователей, тогда как ИИ справился с этой задачей всего за два года. В подтверждение этому, в предварительном докладе научной панели ООН указано, что ChatGPT набрал 100 млн пользователей за два месяца. Современные системы, по его словам, уже не ждут команд — они пишут код, действуют онлайн и принимают решения при всё меньшем человеческом контроле.
«Вайб-кодинг» и будущее человечества
Гутерриш ввёл в дискурс термин «вайб-кодинг» как метафору пассивного управления: позволить системе делать работу, не вникая в механизм и последствия. «Мы не можем вайб-кодить истину. Мы не можем вайб-кодить будущее человечества», — заявил он, предупредив, что у стран есть выбор не между верой в ИИ и страхом перед ним, а между осознанным управлением и пассивным дрейфом.
Защита детей: три принципа
Одним из главных приоритетов Гутерриш назвал защиту детей. Он призвал компании принять обязательство по безопасности ИИ-систем, доступных несовершеннолетним (AI Child Safety Pledge). Технология, по его словам, уже проникла в обучение, дружбу и личные вопросы детей, но последствия её внедрения не были проверены обществом. «Ни один ребенок не должен быть подопытным кроликом для нерегулируемого ИИ», — подчеркнул он. Предложение включает три принципа: не запускать системы без специального тестирования, нулевая терпимость к генерации сексуализированных изображений несовершеннолетних и обязательное подключение реальной человеческой поддержки, если система замечает признаки кризиса у ребенка.
«Роботы-убийцы»: морально отвратительны и политически неприемлемы
Отдельный блок выступления касался военного применения ИИ. Гутерриш призвал запретить международным правом летальные автономные системы вооружений — машины, которые могут выбирать и поражать цель без человеческого контроля. «Назовем их тем, чем они являются: роботы-убийцы», — заявил он, добавив, что такие системы «морально отвратительны» и «политически неприемлемы». Он предупредил, что государства не должны ждать трагедии, чтобы действовать, особенно учитывая, что одни и те же модели и чипы уже используются на поле боя.
Развивающиеся страны и прозрачность
Гутерриш также заявил, что цифровой разрыв не должен превратиться в разрыв в области ИИ, а затем — в разрыв развития, безопасности и суверенитета. Он анонсировал рекомендации по созданию глобального фонда для ИИ, который поможет развивающимся странам получить доступ к вычислительным ресурсам, открытым данным и моделям. Ещё одним важным направлением названа прозрачность: дата-центры уже потребляют больше электроэнергии, чем большинство стран, а к 2030 году могут превзойти по энергопотреблению все государства, кроме пяти. «Если ИИ должен быть мощным, им нужно управлять. Если ИИ должен вызывать доверие, те, кто его создает, должны нести ответственность», — резюмировал генсек.
Моя аналитика: Заявление Гутерриша — это не просто дипломатическая риторика, а четкий сигнал рынку. Ожидаю, что в ближайшие 12-18 месяцев мы увидим ужесточение регулирования на национальном уровне, особенно в сфере защиты детей и автономных вооружений. Инвесторам и разработчикам стоит готовиться к новым комплаенс-требованиям, которые могут существенно повлиять на бизнес-модели ИИ-компаний.