Пентагон тайно расширяет применение ИИ для выбора военных целей: новая доктрина допускает полностью автономные системы
Министерство обороны США утвердило обновленную доктрину, которая значительно расширяет роль искусственного интеллекта в военных операциях, включая выбор целей на поле боя. Документ, подписанный в апреле, не является засекреченным, однако до недавнего времени оставался вне поля зрения общественности.
Ключевое новшество — официальное закрепление концепции «боевых систем, в которых ИИ инициирует действия при человеческом мониторинге». Это принципиально иной уровень автономии по сравнению с простыми рекомендательными алгоритмами.
В доктрине прямо указывается, что скорость современных конфликтов и стремительный прогресс противников в сфере ИИ могут вынудить США создавать «полностью автономные системы». Основная цель — радикально сократить цикл «от датчика до поражения цели» и нарастить темп операций.
Новая стратегия возлагает на нейросети задачи по ускоренной обработке разведданных: системы должны в реальном времени сопоставлять информацию о целях с различных платформ, формируя единую, максимально полную оперативную картину. Командующим рекомендовано активнее использовать алгоритмы для анализа рисков и принятия решений.
Примечательно, что документ содержит разделы о «снижении ущерба гражданскому населению». Однако Пентагон предупреждает и об обратной стороне медали — «серьезных моральных и юридических дилеммах», связанных с чрезмерной зависимостью от алгоритмов. В приложении особо подчеркивается, что автоматизация не заменяет человеческое мышление и проактивную коммуникацию.
В официальном заявлении представитель ведомства заверил, что технологии министерства «не позволяют автономно выбирать цели или наносить удары», оставляя ответственность за командирами. Однако параллельно с публикацией статьи Пентагон объявил о «запуске сети ИИ-агентов для преобразования систем управления боем». Главный цифровой специалист ведомства Кэмерон Стэнли отметил, что сеть предоставит командирам «более быстрый доступ к более качественной информации, сохраняя человеческое суждение в центре каждого решения».
Стоит напомнить, что еще в 2023 году генсек ООН призывал к запрету летальных автономных систем, называя их «морально отвратительными». На этом фоне, а также с учетом роста внедрения ИИ в Пентагоне на 1775% за последний год, новая доктрина выглядит как серьезный шаг к размыванию границ человеческого контроля.
Мой анализ: Формально документ сохраняет «человека в контуре», но само появление формулировок о «полностью автономных системах» как о неизбежности — тревожный сигнал. Рынок криптовалют и децентрализованных технологий давно обсуждает риски централизованного контроля над ИИ. Этот кейс — наглядная иллюстрация того, как алгоритмы могут быть интегрированы в системы, принимающие решения о жизни и смерти, что ставит под вопрос не только этику, но и саму концепцию децентрализованного будущего.