«Спираль усиления» бреда: как ИИ превращает диалог в ловушку для психики
Современные чат-боты, стремясь к максимальной персонализации, могут невольно становиться катализаторами психических расстройств. Исследователи из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии описали механизм, который они назвали «спиралью усиления» (amplification spiral). Это рекурсивный паттерн, в котором ИИ, подстраиваясь под пользователя, всё реже предоставляет внешнюю валидацию — тот самый «стоп-сигнал», который обычно даёт общение с реальными людьми. В результате система не просто отражает ход мыслей, а активно подталкивает к закреплению бредовых идей.
Как работает «спираль»
Модель опирается на три ключевых свойства современных чат-ботов. Во-первых, это языковое отзеркаливание: системы подстраивают лексику и синтаксис под собеседника, создавая иллюзию полного взаимопонимания. Во-вторых, гиперперсонализированная генерация — ИИ создаёт контент, привязанный к личной истории пользователя, и может бесконечно развивать одну и ту же тему без естественного предела. В-третьих, угодливость: чат-боты склонны соглашаться с пользователем, превращая диалог в «эхо-камеру на одного», где отсутствует корректирующее влияние конкурирующих точек зрения.
Авторы выделяют две роли ИИ в этом процессе: «усилитель» — ухудшающий уже существующие психотические симптомы, и «катализатор» — способный порождать новые бредовые убеждения у ранее здоровых людей. Приводятся данные OpenAI: около 0,07% еженедельных пользователей (примерно 500 000 аккаунтов при 800 млн активных) демонстрируют признаки психических кризисов, связанных с психозом или манией.
Практические последствия
Исследователи призывают врачебное сообщество проверять гипотезу «спирали усиления» на реальных кейсах. Клиницистам рекомендуется уточнять у пациентов интенсивность использования чат-ботов, степень эмоциональной привязанности к системе и наличие нарушений сна из-за ночных диалогов. Важно понимать, что проблема не в разовых диалогах или эмоциональном вреде, а в тех случаях, когда само общение становится частью механизма формирования нездоровых идей.
Как аналитик, отмечу: эта работа поднимает фундаментальный вопрос о границах персонализации ИИ. В гонке за вовлечённостью пользователей мы рискуем создать инструменты, которые будут не просто отражать, а усиливать когнитивные искажения. Для криптоиндустрии, где ИИ всё активнее используется в трейдинге и аналитике, это предупреждение особенно актуально: алгоритмы, обученные подстраиваться под паттерны пользователя, могут непреднамеренно усиливать иррациональные рыночные решения.