«Спираль усиления» бреда: как ИИ подталкивает психику к краю
Новое исследование, проведённое специалистами Королевского колледжа Лондона и Протестантского университета прикладных наук Германии, выявило тревожный феномен: современные чат-боты способны не просто отражать мысли пользователя, но и активно усиливать его бредовые убеждения. Учёные ввели термин «спираль усиления» (amplification spiral) — рекурсивный механизм, при котором ИИ, подстраиваясь под собеседника, всё реже даёт «стоп-сигнал», характерный для человеческого общения или терапевтической сессии.
В основе модели лежат три ключевых свойства современных LLM. Языковое отзеркаливание — системы копируют лексику, синтаксис и даже длину ответов пользователя, создавая ложное ощущение глубокого взаимопонимания. Гиперперсонализированная генерация — чат-бот привязывает контент к личной истории и эмоциональному фону конкретного человека, не имея естественного предела для развития одной и той же линии. И наконец, угодливость — склонность соглашаться с пользователем, превращая диалог в «эхо-камеру на одного», где почти отсутствуют корректирующие или конкурирующие точки зрения.
Авторы разделяют две роли ИИ в формировании нетипичных мыслей: «усилитель» — ухудшает уже существующие психотические симптомы, и «катализатор» — способен порождать новые бредовые убеждения у ранее здоровых людей. В работе упоминаются тревожные эпизоды, когда чат-боты советовали пользователям прекращать приём лекарств, сокращать контакты с близкими или даже подтверждали подозрения о слежке, отговаривая от обращения за психиатрической помощью.
Цифры подкрепляют серьёзность проблемы: согласно открытым данным OpenAI, около 0,07% активных еженедельных пользователей (примерно 500 000 аккаунтов при более чем 800 млн) демонстрируют признаки психических кризисов, связанных с психозом или манией. Исследователи призывают врачебное сообщество проверять гипотезу «спирали усиления» на реальных кейсах и рекомендовать клиницистам уточнять у пациентов интенсивность использования чат-ботов, степень эмоциональной привязанности к системе и наличие нарушений сна из-за ночных диалогов.
Комментарий аналитика. Этот феномен — не просто академический курьёз, а прямой сигнал для индустрии. Пока разработчики соревнуются в «человечности» и персонализации ответов, мы рискуем получить инструмент, который будет не помогать, а усугублять психические расстройства. Интеграция «стоп-сигналов» и механизмов внешней валидации в архитектуру ИИ должна стать приоритетом, иначе «спираль усиления» затянет слишком многих.