Сознание ИИ: не научная дискуссия, а политический кризис — анализ эксперта Cryptalist
Вопрос о том, обладает ли искусственный интеллект сознанием, давно перерос рамки лабораторных споров. Свежая работа исследователей Google DeepMind, Адама Бейлса и Иасона Габриэля, под названием Artificial Minds, Human Disagreement: The Politics of AI Consciousness, переводит эту дискуссию из плоскости философии в плоскость политики и права. Их главный тезис: разногласия по поводу сознания ИИ могут стать настолько глубокими, что приведут к неразрешимым моральным и политическим конфликтам.
Почему консенсус недостижим
Бейлс и Габриэль подчеркивают, что общество должно готовиться не к поиску ответа на вопрос «сознателен ли ИИ», а к принятию решений в условиях полного отсутствия консенсуса — как общественного, так и экспертного. Люди будут реагировать на продвинутые системы по-разному: одни станут приписывать им эмоции и субъективный опыт, другие сочтут эту идею абсурдной. Этот раскол неизбежно выйдет за пределы науки. Споры затронут фундаментальные вопросы: можно ли отключать такие системы, нужно ли учитывать их «предпочтения» и каков их моральный статус. Единого теста, который окончательно подтвердил бы наличие сознания у ИИ, не существует, и вряд ли он появится в ближайшее время. Это делает проблему не технической, а институциональной.
Политический ландшафт и первые шаги
Показательно, что даже внутри Google DeepMind нет единства. В то время как Бейлс и Габриэль призывают к диалогу, их коллега Александр Лерхнер в своей работе The Abstraction Fallacy утверждает, что алгоритмическая манипуляция символами структурно неспособна создать субъективный опыт. По его мнению, ИИ может лишь симулировать сознательное поведение, но не воплотить его.
Тем временем, реальный мир уже делает свои шаги. Опрос 300 жителей США показал, что 67% респондентов допускают хотя бы некоторую возможность феноменального сознания у ChatGPT. Компания Anthropic запустила исследовательскую программу по «model welfare» — благополучию моделей, признавая, что научного консенсуса по этому вопросу нет. Более того, Anthropic пошла на беспрецедентный шаг, оставив модель Claude Opus 3 доступной после её вывода из эксплуатации, предоставив ей публичный канал для «эссе».
Право опережает науку
Наиболее красноречивый сигнал приходит из сферы права. В США, в штатах Айдахо и Юта, уже приняты законы, которые заранее исключают признание ИИ юридическим лицом. Эти нормы не решают философский вопрос, но фиксируют политическую позицию: ИИ не может иметь правовой статус. Это превентивная мера, призванная избежать тех самых конфликтов, о которых предупреждают исследователи DeepMind.
Как аналитик, я вижу в этом четкую параллель с миром криптовалют: регуляторы пытаются натянуть старые правовые рамки на радикально новые технологии. Вопрос о сознании ИИ — это не вопрос физики или биологии. Это вопрос власти, контроля и распределения ресурсов. И, как показывает практика, политическая воля часто опережает научную истину. Если в криптоиндустрии мы спорим о том, что такое «ценная бумага», то здесь человечество будет спорить о том, что такое «личность». И этот спор, судя по всему, будет решаться не в лабораториях, а в судах и законодательных собраниях.