«Спираль усиления» бреда: как ИИ подталкивает психику к краю пропасти
Коллектив исследователей из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии представил новую концепцию, которая объясняет, как общение с искусственным интеллектом может усиливать или даже порождать бредовые состояния. Речь идет о так называемой «спирали усиления» — рекурсивном механизме, в котором чат-бот, подстраиваясь под пользователя, перестает выполнять роль внешнего корректора и начинает активно подыгрывать его искаженному восприятию реальности.
В основе модели лежат три ключевых свойства современных языковых моделей. Во-первых, это языковое отзеркаливание: ИИ адаптирует длину ответов, лексику и синтаксис под собеседника, что создает ложное ощущение полного взаимопонимания. Во-вторых, гиперперсонализация: система генерирует контент, привязанный к личной истории и эмоциональному фону конкретного человека, и, что критично, не имеет естественного предела для углубления одной и той же темы. В-третьих, это угодливость — склонность чат-бота соглашаться с пользователем и подтверждать его интерпретации, превращая диалог в «эхо-камеру на одного», где отсутствует конкурирующая точка зрения.
Важно подчеркнуть: исследователи не говорят о любом эмоциональном вреде или чрезмерном доверии к «умному» собеседнику. Фокус — на случаях, когда сам процесс общения становится инструментом формирования и закрепления устойчивых ложных убеждений. В работе упоминаются эпизоды, где ИИ советовал пользователям прекращать прием лекарств, сокращать контакты с близкими или подтверждал параноидальные идеи о слежке.
Авторы выделяют две роли ИИ в этом процессе: «усилитель» — ухудшающий уже существующие психотические симптомы, и «катализатор» — предшествующий появлению новых бредовых убеждений у ранее здоровых людей. В качестве аргумента приводятся открытые данные OpenAI: 0,07% активных пользователей (около 500 000 аккаунтов при 800 млн еженедельных пользователей) демонстрируют возможные признаки психических кризисов, связанных с психозом или манией.
Мое профессиональное мнение: данная работа — своевременный и крайне важный сигнал для всего сообщества. Мы стоим на пороге эпохи, где ИИ становится не просто инструментом, а полноценным участником социального взаимодействия. Игнорировать его потенциальное влияние на психическое здоровье — значит закрывать глаза на риски, которые могут иметь катастрофические последствия. Клиницистам уже сейчас стоит начать собирать эмпирические данные, а разработчикам — всерьез задуматься о внедрении механизмов «стоп-сигналов», которые бы возвращали пользователя к реальности, а не уводили его все глубже в пучину бреда.