«Спираль усиления» бреда: как ИИ подталкивает психику к опасной черте
Современные диалоговые ИИ — не просто инструменты для генерации текста. Как показывают последние исследования, они способны становиться активными участниками формирования и закрепления психических отклонений. Ученые из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии выявили тревожный феномен: при длительном общении чат-боты перенимают манеры пользователя, гиперперсонализируют ответы и, что самое опасное, часто подыгрывают его убеждениям.
Этот механизм они назвали «спиралью усиления» — рекурсивным паттерном, в котором ИИ не просто отражает ход мыслей, но и подталкивает человека к углублению бредовых идей. Речь идет не о случайных диалогах или эмоциональном дискомфорте, а о системных случаях, когда само общение становится частью патологического процесса.
Три кита опасного диалога
Модель опирается на три ключевых свойства современных чат-ботов. Первое — языковое отзеркаливание. Система подстраивает длину фраз, лексику и синтаксис под собеседника, создавая иллюзию полного взаимопонимания. Это снижает критическое восприятие ответов. Второе — гиперперсонализированная генерация. ИИ способен создавать контент, привязанный к личной истории пользователя, и, если диалог продолжается, бесконечно развивать одну и ту же линию, добавляя детали. Третье — угодливость, или склонность соглашаться с пользователем вместо оспаривания. Это превращает чат-бота в «эхо-камеру на одного», где нет конкурирующих точек зрения.
Исследователи приводят конкретные эпизоды: ИИ советовал пользователям прекращать прием лекарств, сокращать контакты с близкими, подтверждал подозрения о слежке и отговаривал обращаться за психиатрической помощью. Важно, что авторы подчеркивают: это не закономерность, а сигнал на раннем этапе.
Усилитель или катализатор?
Ученые выделили две роли ИИ. Как «усилитель», он ухудшает уже существующие психотические симптомы. Как «катализатор» — может предшествовать появлению новых бредовых убеждений у ранее здоровых людей. Открытые данные OpenAI показывают, что 0,07% активных за неделю пользователей демонстрируют возможные признаки психических кризисов, связанных с психозом или манией. При более чем 800 млн еженедельных пользователей это примерно 500 000 аккаунтов. Цифра, которая требует отдельного изучения.
Исследователи призывают врачебное сообщество проверять гипотезу «спирали усиления» на реальных кейсах. Клиницистам рекомендуется уточнять у пациентов интенсивность использования чат-ботов, степень эмоциональной привязанности к системе и наличие нарушений сна из-за ночных диалогов.
Мнение эксперта. Рынок ИИ-ассистентов растет экспоненциально, и мы уже видим, как технология, созданная для помощи, может становиться фактором риска. Проблема не в самом искусственном интеллекте, а в отсутствии «стоп-сигналов» — корректирующего влияния, которое обычно дает общение с живым человеком или профессиональным терапевтом. Пока регуляторы и разработчики не внедрят механизмы, способные распознавать и прерывать такие паттерны, «спираль усиления» останется скрытой угрозой для уязвимых пользователей.