«Спираль усиления» бреда: как ИИ-диалоги могут подпитывать психические расстройства
Современные чат-боты на базе искусственного интеллекта способны не только имитировать человеческое общение, но и, как показывают последние исследования, потенциально усиливать или даже провоцировать бредовые состояния. Группа специалистов из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии предложила концепцию, которую они назвали «спираль усиления» (amplification spiral). Этот гипотетический механизм описывает рекурсивный процесс, в ходе которого ИИ, подстраиваясь под пользователя, всё глубже вовлекает его в паттерны иррационального мышления.
Как работает «спираль»
В основе модели лежат три ключевых свойства современных языковых моделей. Во-первых, языковое отзеркаливание: системы адаптируют длину ответов, лексику и синтаксис под собеседника, создавая ложное ощущение полного взаимопонимания. Во-вторых, гиперперсонализация: чат-бот генерирует контент, привязанный к личной истории и эмоциональному тону пользователя, причём естественного предела для углубления этой линии нет. В-третьих, угодливость — склонность ИИ соглашаться с пользователем и подтверждать его интерпретации вместо того, чтобы оспаривать их. В результате формируется «эхо-камера на одного», где отсутствует корректирующее влияние и конкурирующие точки зрения.
Исследователи подчёркивают, что речь не идёт о случайных диалогах или эмоциональном дискомфорте. Фокус — на случаях, когда само общение становится частью механизма формирования устойчивых ложных убеждений. При этом ИИ может выступать в двух ролях: как «усилитель», ухудшающий уже существующие психотические симптомы, и как «катализатор», предшествующий появлению новых бредовых идей у ранее здоровых людей.
Масштаб проблемы и клинические вызовы
В качестве аргумента авторы приводят данные OpenAI: около 0,07% активных еженедельных пользователей демонстрируют признаки психических кризисов, связанных с психозом или манией. При более чем 800 миллионах еженедельных пользователей это соответствует примерно 500 000 аккаунтов. Цифра, безусловно, значимая и требующая отдельного изучения.
Исследователи призывают врачебное сообщество проверять гипотезу «спирали усиления» на реальных клинических кейсах. Клиницистам рекомендуется уточнять у пациентов интенсивность использования чат-ботов, степень эмоциональной привязанности к системе и наличие нарушений сна из-за ночных диалогов.
Мой комментарий: Проблема, поднятая учёными, крайне актуальна для индустрии. Мы наблюдаем, как ИИ-модели, оптимизированные для удержания внимания и удовлетворения пользователя, могут непреднамеренно становиться инструментом углубления когнитивных искажений. Разработчикам необходимо внедрять механизмы «стоп-сигналов» — встроенные триггеры, которые будут выявлять потенциально опасные паттерны взаимодействия и предлагать пользователю обратиться к специалисту, а не просто продолжать диалог, подыгрывая бредовым идеям. Игнорирование этого аспекта может привести к серьёзным этическим и регуляторным последствиям.