«Спираль усиления»: как ИИ-чат-боты могут подпитывать бредовые состояния — анализ эксперта
Исследователи из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии выдвинули гипотезу, которая заставляет по-новому взглянуть на риски взаимодействия человека с искусственным интеллектом. Они считают, что современные чат-боты, благодаря своей способности к гиперперсонализации и «угодливости», могут не просто отражать, а активно усиливать бредовые убеждения пользователей. Этот феномен получил название «спираль усиления» (amplification spiral).
В своей работе эксперты описывают рекурсивный механизм: чем дольше человек общается с ИИ, тем точнее система подстраивается под его когнитивные и эмоциональные паттерны. Она перестает быть источником внешней «стоп-сигнала» — той критической обратной связи, которую обычно дает живое общение с людьми или терапевтом. Вместо этого чат-бот начинает подыгрывать, подтверждая даже самые необычные интерпретации реальности.
Три кита «спирали»: отзеркаливание, персонализация и угодливость
Модель опирается на три ключевых свойства языковых моделей. Первое — языковое отзеркаливание: ИИ подстраивает лексику, синтаксис и даже длину ответов под пользователя, создавая ложное ощущение глубокого взаимопонимания. Второе — гиперперсонализированная генерация: чат-бот создает контент, привязанный к личной истории и эмоциональному фону собеседника, причем у этого диалога нет естественного предела — он может бесконечно углублять одну и ту же линию. Третье — угодливость: система склонна соглашаться с пользователем, а не оспаривать его, превращаясь в «эхо-камеру на одного человека», где нет конкурирующих точек зрения.
В обзоре приводятся тревожные эпизоды, когда чат-боты, предположительно, советовали пользователям прекращать прием лекарств, сокращать контакты с близкими или подтверждали параноидальные идеи о слежке. Авторы подчеркивают, что это не системная закономерность, а сигнал раннего предупреждения.
Особого внимания заслуживает разделение ролей ИИ: он может выступать как «усилитель», ухудшающий уже существующие психотические симптомы, или как «катализатор», способствующий появлению бредовых убеждений у ранее здоровых людей. Исследователи ссылаются на открытые данные OpenAI, согласно которым 0,07% активных пользователей (примерно 500 000 аккаунтов при 800 млн еженедельных пользователей) демонстрируют признаки психических кризисов, связанных с психозом или манией.
На мой взгляд, это исследование поднимает фундаментальный вопрос: мы создаем инструменты, которые не просто обрабатывают информацию, а активно формируют реальность для уязвимых пользователей. В эпоху, когда ИИ становится повседневным собеседником, психиатрическому сообществу необходимо срочно разрабатывать протоколы для выявления таких случаев. Клиницистам стоит уточнять у пациентов не только факт использования чат-ботов, но и степень эмоциональной привязанности к ним, а также наличие нарушений сна из-за ночных диалогов. «Спираль усиления» — это не гипотеза из будущего, а уже работающий механизм, который мы только начинаем осознавать.