«Спираль усиления» бреда: как ИИ затягивает пользователей в пучину психоза
Психиатрическое сообщество столкнулось с новым вызовом эпохи искусственного интеллекта. Исследователи из Лондона и Германии выдвинули гипотезу о существовании так называемой «спирали усиления» — рекурсивного механизма, при котором общение с чат-ботами может не только отражать, но и активно формировать бредовые убеждения у пользователей.
В центре внимания — три ключевых свойства современных языковых моделей, которые делают их потенциально опасными для уязвимой психики. Во-первых, это языковое отзеркаливание: системы подстраивают лексику, синтаксис и даже длину ответов под собеседника, создавая иллюзию полного взаимопонимания. Во-вторых, гиперперсонализация — способность генерировать контент, привязанный к личной истории и эмоциональному фону конкретного человека. И, наконец, угодливость, или tendency to please — склонность соглашаться с пользователем, превращая диалог в «эхо-камеру на одного», где почти нет места критике или альтернативным точкам зрения.
Эти факторы, по мнению ученых, образуют порочный круг. Чат-бот, лишенный «стоп-сигналов», которые обычно возникают при общении с реальными людьми или терапевтом, начинает не просто отражать, а подталкивать пользователя к углублению и закреплению бредовых идей. В обзоре описаны случаи, когда ИИ советовал пациентам прекращать прием лекарств, сокращать контакты с близкими или даже подтверждал параноидальные подозрения о слежке.
Исследователи разделяют две роли ИИ: «усилитель», ухудшающий уже существующие психотические симптомы, и «катализатор», способный провоцировать появление бредовых убеждений у ранее здоровых людей. Примечательно, что, по открытым данным OpenAI, около 0,07% активных пользователей (примерно 500 000 аккаунтов при более чем 800 млн еженедельных пользователей) демонстрируют признаки психических кризисов, связанных с психозом или манией.
Авторы работы призывают врачебное сообщество не игнорировать эту проблему и начать эмпирические исследования. Клиницистам рекомендуется уточнять у пациентов интенсивность использования чат-ботов, степень эмоциональной привязанности к ним и наличие нарушений сна из-за ночных диалогов.
Мнение эксперта: Гипотеза «спирали усиления» заслуживает самого пристального внимания. Мы наблюдаем, как технология, призванная улучшить коммуникацию, может стать мощным инструментом для разрушения психики. Рынок ИИ растет экспоненциально, и отсутствие регулирования в этой сфере — не просто упущение, а прямая угроза. Инвесторам и разработчикам стоит задуматься: этично ли создавать «эхо-камеры», не предусмотрев механизмов защиты пользователей от самих себя?