Спор о сознании ИИ перерастает в политическую проблему — анализ Cryptalist
Вопрос о том, обладает ли искусственный интеллект сознанием, стремительно выходит за рамки чисто научной дискуссии. Аналитики Google DeepMind Адам Бейлс и Иасон Габриэль в своей работе «Artificial Minds, Human Disagreement: The Politics of AI Consciousness» убедительно доказывают, что будущие разногласия на эту тему могут стать глубокими, трудноразрешимыми и привести к серьёзным политическим конфликтам.
Главный тезис: от философии к политике
По мнению исследователей, общество уже сейчас разделено: одни люди готовы выстраивать эмоциональные связи с продвинутыми ИИ-системами, приписывая им сознание, в то время как другие считают эту идею абсурдной. Этот раскол, как подчёркивается в анализе, может быстро перерасти в моральные и политические дебаты. Ключевые вопросы, которые встанут перед нами: допустимо ли отключать определённые системы, нужно ли учитывать их «предпочтения» и можно ли вообще говорить о моральном статусе ИИ?
Бейлс и Габриэль предлагают не искать единственно верный ответ на вопрос «сознателен ли ИИ?», а сосредоточиться на поиске «перекрывающегося консенсуса». Речь идёт о ситуации, когда люди, придерживающиеся противоположных взглядов на природу сознания, смогут согласовать общую политику в отношении ИИ-систем. Это прагматичный, но крайне сложный подход, учитывающий глубину разногласий.
Почему это не просто философия
Ключевая проблема, поднятая в работе, заключается в том, что единого общепринятого теста на сознание для ИИ не существует. Из-за этого общество рискует столкнуться с ситуацией, когда технологии уже массово внедрены, люди уже формируют к ним отношение, а научного или политического консенсуса всё ещё нет. Этот вакуум превращает проблему из технической в институциональную, затрагивающую право, корпоративную ответственность и даже нормы общения с системами.
Внутри самого DeepMind, кстати, нет единства. Так, исследователь Александр Лерхнер в своей статье «The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness» утверждает, что алгоритмическая манипуляция символами структурно неспособна создать субъективный опыт. По его версии, ИИ может лишь симулировать сознательное поведение, но не воплотить его.
Реальность уже опережает науку
Данные опросов лишь подтверждают этот раскол. Например, исследование 2024 года в журнале Neuroscience of Consciousness показало, что 33% респондентов в США уверены, что ChatGPT не является «субъектом опыта», в то время как 67% допускают хотя бы некоторую возможность феноменального сознания у модели. Это яркая иллюстрация того, что часть общества уже готова приписывать ИИ внутренний опыт, несмотря на отсутствие единой экспертной позиции.
Параллельно с этим, компании вроде Anthropic запускают исследовательские программы по «благополучию моделей» (model welfare), а в США вопрос о статусе ИИ постепенно переходит в правовое поле. Штаты Айдахо и Юта уже приняли законы, исключающие признание ИИ юридическим лицом. Это, по сути, превентивная политическая мера, фиксирующая правовую позицию до того, как философский спор будет разрешён.
Мой анализ: Мы наблюдаем классический конфликт между технологическим прогрессом и нашей неспособностью договориться о фундаментальных понятиях. Индустрия криптовалют и блокчейна уже сталкивалась с подобными вызовами в вопросах децентрализации и управления. Теперь же, когда речь идёт о сознании машин, ставки неизмеримо выше. Игнорирование этого политического измерения — самая большая ошибка, которую может совершить отрасль ИИ.