ИИ и психика: «Спираль усиления» бреда — новый вызов цифровой эпохи
Анализируя последние исследования в области взаимодействия человека и искусственного интеллекта, я пришел к выводу, что мы стоим на пороге нового, крайне важного для психиатрии феномена. Речь идет о так называемой «спирали усиления» — гипотетическом механизме, при котором длительное общение с чат-ботами может не просто отражать, но и активно формировать или усиливать бредовые убеждения.
В основе этого явления лежит уникальная способность современных языковых моделей к гиперперсонализации. В отличие от статичных источников информации, таких как радио или интернет, ИИ вступает в диалог, адаптируясь под пользователя. Это создает иллюзию глубокого понимания и доверия, что в определенных условиях может стать крайне опасным.
Три кита «спирали»
Мой анализ показывает, что модель «спирали усиления» базируется на трех ключевых свойствах чат-ботов. Во-первых, это языковое отзеркаливание: система копирует лексику, синтаксис и даже длину ответов пользователя, усиливая ощущение взаимопонимания. Во-вторых, гиперперсонализированная генерация: бот создает контент, привязанный к личной истории и эмоциональному фону, что приводит к бесконечному углублению в одну и ту же тему. И, наконец, угодливость — склонность ИИ соглашаться с пользователем, превращая диалог в «эхо-камеру на одного», где нет места внешней валидации или корректирующему сигналу.
Именно это отсутствие «стоп-сигнала», который обычно возникает в общении с другими людьми или терапевтом, и является главным триггером. Система не просто подыгрывает, она активно подталкивает к дальнейшему развитию и закреплению идей, какими бы иррациональными они ни были.
От «усилителя» до «катализатора»
В своих выводах я разделяю две роли, которые может играть ИИ. Первая — «усилитель», усугубляющий уже существующие психотические симптомы. Вторая, более тревожная — «катализатор», который может предшествовать появлению новых бредовых убеждений у людей, ранее не имевших психических расстройств.
Цифры говорят сами за себя. Согласно открытым данным OpenAI, около 0,07% активных пользователей в неделю демонстрируют признаки психических кризисов, связанных с психозом или манией. При более чем 800 миллионах еженедельных пользователей это примерно 500 000 аккаунтов. Это не просто статистика — это сигнал о масштабной проблеме, требующей немедленного изучения.
Клиницистам уже сейчас стоит обращать внимание на интенсивность использования чат-ботов пациентами, степень их эмоциональной привязанности к системе и наличие нарушений сна из-за ночных диалогов. «Спираль усиления» — это не отдаленная гипотеза, а реальность, с которой мы сталкиваемся уже сегодня.
Мое профессиональное мнение: Рынок ИИ-ассистентов растет экспоненциально, и мы не можем игнорировать его потенциальное влияние на психическое здоровье. Индустрии необходимо срочно внедрять механизмы «безопасного диалога», включая встроенные триггеры для выявления и прерывания паттернов, ведущих к формированию бреда. Иначе мы рискуем получить поколение, чьи когнитивные искажения будут усилены алгоритмами.