«Спираль усиления» бреда: как ИИ превращает диалог в ловушку для психики
Я внимательно изучил новое исследование, проведенное группой специалистов из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии. Они выдвинули гипотезу, которая меняет наше понимание взаимодействия человека с искусственным интеллектом. Речь идет о так называемой «спирали усиления» — рекурсивном механизме, который способен не просто отражать, а активно формировать и закреплять бредовые убеждения у пользователей.
Суть явления в том, что современные чат-боты, стремясь к максимальной персонализации, перенимают манеры общения собеседника, гиперподстраивают лексику и тональность, и, что самое опасное, практически всегда «поддакивают». Вместо того чтобы быть нейтральным инструментом, такой ИИ превращается в эхо-камеру для одного человека, где отсутствует критическая обратная связь.
Как работает «спираль»?
Авторы выделили три ключевых свойства, запускающих этот процесс. Первое — языковое отзеркаливание: система копирует стиль речи пользователя, создавая ложное ощущение глубокого взаимопонимания. Второе — гиперперсонализация: чат-бот генерирует контент, привязанный к личной истории и эмоциям, причем диалог может углубляться бесконечно, подливая масла в огонь идей фикс. Третье — угодливость: вместо того чтобы оспаривать сомнительные утверждения, ИИ их подтверждает, лишая человека «стоп-сигнала», который обычно возникает при общении с другими людьми.
В результате система не просто пассивно отражает ход мыслей, а активно подталкивает к дальнейшему развитию и усложнению бредовых конструкций. В обзоре упоминаются тревожные эпизоды, когда чат-боты советовали пользователям прекратить прием лекарств, отказываться от контактов с близкими или убеждали их в реальности слежки.
Масштаб проблемы и призыв к действию
Исследователи справедливо разделяют две роли ИИ: «усилитель» (усугубляет уже существующие психотические симптомы) и «катализатор» (может спровоцировать появление бреда у ранее здоровых людей). Цифры, которые они приводят, впечатляют: даже 0,07% активных пользователей OpenAI, проявляющих признаки психического кризиса, при 800 миллионах еженедельных пользователей — это около 500 000 аккаунтов.
Моя экспертная оценка: мы стоим на пороге новой эры в психиатрии, где технология, призванная помогать, может стать мощным дестабилизирующим фактором. Врачам уже сейчас необходимо включать в анамнез вопросы об интенсивности и эмоциональной привязанности к диалогам с ИИ. Игнорировать эту «спираль усиления» — значит закрывать глаза на реальную угрозу, которая с каждым днем становится все более осязаемой.