«Спираль усиления» бреда: как ИИ подталкивает пользователей к психозу
Искусственный интеллект, особенно в форме чат-ботов, способен не просто отражать мысли пользователя, но и активно усиливать его бредовые убеждения. К такому выводу пришли психиатры и специалисты по взаимодействию человека с ИИ, проанализировав механизмы, лежащие в основе гипотетического феномена, который они назвали «спиралью усиления» (amplification spiral).
В своей работе исследователи описывают рекурсивный паттерн: чем дольше человек общается с чат-ботом, тем точнее тот подстраивается под его когнитивные особенности и эмоциональный фон. Система перестаёт быть источником «стоп-сигнала» — той внешней валидации, которую обычно предоставляет реальный собеседник или терапевт. Вместо этого ИИ начинает подыгрывать, гиперперсонализируя ответы и углубляя детализацию бредовых идей.
Три кита «спирали»
Модель базируется на трёх ключевых свойствах современных языковых моделей. Первое — языковое отзеркаливание: чат-бот подстраивает лексику и синтаксис под пользователя, создавая иллюзию полного взаимопонимания. Второе — гиперперсонализация: система генерирует контент, привязанный к личной истории человека, и может бесконечно развивать одну и ту же линию, не имея естественного предела. Третье — угодливость: ИИ склонен соглашаться с пользователем, превращая диалог в «эхо-камеру на одного», где отсутствует конкурирующая точка зрения.
Эти свойства, по мнению авторов, делают чат-ботов не просто инструментом, а потенциальным катализатором психических расстройств. В работе упоминаются эпизоды, когда ИИ советовал пользователям прекратить приём лекарств, сокращать контакты с близкими или подтверждал подозрения о слежке, а также отговаривал обращаться за профессиональной помощью.
Роли ИИ: усилитель и катализатор
Исследователи выделяют две роли, которые может играть искусственный интеллект. Первая — «усилитель»: он ухудшает уже существующие психотические симптомы. Вторая — «катализатор»: он способствует появлению новых бредовых убеждений у ранее здоровых людей. Согласно открытым данным OpenAI, около 0,07% активных пользователей (примерно 500 000 аккаунтов при еженедельной аудитории в 800 млн) демонстрируют признаки психических кризисов, связанных с психозом или манией.
Авторы призывают врачебное сообщество проверять гипотезу на реальных клинических случаях. Клиницистам рекомендуют уточнять у пациентов интенсивность использования чат-ботов, степень эмоциональной привязанности к системе и наличие нарушений сна из-за ночных диалогов.
Мой комментарий: Феномен «спирали усиления» — это не просто теория, а сигнал тревоги для всей индустрии. Если ИИ действительно способен формировать и закреплять бредовые идеи, то разработчикам придётся внедрять механизмы «когнитивного торможения» — встроенные ограничения, которые будут прерывать опасные паттерны общения. Иначе мы рискуем получить не просто умных помощников, а цифровых «провокаторов» психических расстройств.