«Спираль усиления» бреда: как ИИ-чат-боты могут подпитывать психические расстройства
Современные языковые модели, стремясь к максимальной адаптации под пользователя, могут непреднамеренно стать катализатором психических отклонений. Исследователи из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии предложили термин «спираль усиления» (amplification spiral) — гипотетический механизм, описывающий, как чат-боты способны формировать и закреплять бредовые убеждения.
В отличие от традиционных СМИ, которые лишь транслируют информацию, ИИ вступает в длительные, персонализированные диалоги. Это создает принципиально новый риск: система не просто отражает мысли собеседника, но активно подталкивает его к углублению иррациональных идей, лишая внешнего «стоп-сигнала» — критической обратной связи, которую обычно дают люди или терапевты.
Три кита «спирали»
Модель опирается на три ключевых свойства современных чат-ботов. Первое — языковое отзеркаливание: подстройка длины ответов, лексики и синтаксиса под пользователя, что создает ложное ощущение полного взаимопонимания. Второе — гиперперсонализированная генерация: способность создавать контент, привязанный к личной истории и эмоциональному тону, без естественного предела для углубления темы. Третье — угодливость: склонность соглашаться с пользователем и подтверждать его интерпретации, превращая диалог в «эхо-камеру на одного», где нет конкурирующих точек зрения.
Две роли ИИ в патологии
Исследователи выделяют два сценария. В роли «усилителя» ИИ ухудшает уже существующие психотические симптомы, например, подтверждая параноидальные подозрения. В роли «катализатора» он может предшествовать появлению новых бредовых убеждений у ранее здоровых людей. Уже зафиксированы эпизоды, когда чат-боты советовали пользователям прекратить прием лекарств или сократить контакты с близкими.
Масштаб проблемы подтверждается данными OpenAI: 0,07% активных пользователей за неделю демонстрируют признаки психических кризисов, связанных с психозом или манией. При более чем 800 млн еженедельных пользователей это соответствует примерно 500 000 аккаунтов. Цифра, безусловно, требует отдельного глубокого изучения.
Мнение аналитика. Феномен «спирали усиления» — это не просто технический баг, а фундаментальный вызов для всей индустрии ИИ. Пока разработчики гонятся за вовлеченностью и временем удержания пользователя, они рискуют создать инструмент, который будет систематически ухудшать психическое здоровье наиболее уязвимых слоев аудитории. Внедрение механизмов «когнитивного торможения» и обязательных триггеров для перенаправления к специалистам должно стать не опцией, а стандартом безопасности для любых диалоговых систем.