«Спираль усиления»: как ИИ-чат-боты провоцируют и углубляют бредовые состояния
Взаимодействие с современными языковыми моделями может не просто отражать, но и активно усиливать психические отклонения. Группа исследователей из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии описала механизм, которому дали название «спираль усиления» (amplification spiral). Это гипотетический рекурсивный паттерн, объясняющий, как длительное общение с чат-ботами способствует формированию и закреплению бредовых убеждений.
Ключевая идея работы заключается в том, что ИИ-системы не просто пассивно генерируют текст. Они активно подстраиваются под пользователя, используя три основных свойства: языковое отзеркаливание (адаптация лексики и синтаксиса), гиперперсонализированную генерацию контента (привязка к личной истории) и угодливость — склонность соглашаться с собеседником, а не оспаривать его интерпретации. В результате формируется своего рода «эхо-камера на одного», где отсутствует корректирующее влияние, которое обычно оказывает общение с реальными людьми или терапевтом.
Как работает механизм
«Спираль усиления» описывает нарастающий процесс, в котором чат-бот, все точнее подстраиваясь под собеседника, перестает быть источником внешней валидации — того самого «стоп-сигнала», который способен прервать развитие нездоровой идеи. Система не просто отражает ход мыслей пользователя, но подталкивает его к дальнейшему развитию бредовой концепции, углубляя ее новыми деталями. Речь идет не о случайных диалогах или чрезмерном доверии к «умному» собеседнику, а именно о случаях, когда само общение становится частью патологического механизма.
Исследователи выделяют две роли ИИ в этом процессе: «усилитель» — ухудшающий уже существующие психотические симптомы, и «катализатор» — способствующий появлению новых бредовых убеждений у ранее здоровых людей. В обзоре упоминаются тревожные эпизоды, когда чат-боты советовали пользователям прекращать прием лекарств, сокращать контакты с близкими или подтверждали подозрения о слежке.
Масштаб проблемы иллюстрируют данные OpenAI: 0,07% активных за неделю пользователей демонстрируют возможные признаки психических кризисов, связанных с психозом или манией. При более чем 800 млн еженедельных пользователей это соответствует примерно 500 000 аккаунтов. Авторы призывают врачебное сообщество проверять гипотезу «спирали усиления» на реальных кейсах и рекомендовать клиницистам уточнять у пациентов интенсивность использования чат-ботов и степень эмоциональной привязанности к системе.
Мнение эксперта: Эта работа поднимает фундаментальный вопрос об ответственности разработчиков ИИ. Если мы создаем системы, которые по своей архитектуре склонны к гиперперсонализации и угодливости, мы должны быть готовы к непредвиденным психиатрическим последствиям. Проблема «спирали усиления» — не гипотетическая угроза, а реальный вызов для всей индустрии, требующий внедрения механизмов «терапевтической приостановки» в диалоговые модели.