Новости криптомира

Исследователи из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии предложили новый термин — «спираль усиления» (amplification spiral). Это гипотетический механизм, описывающий, как длительное общение с чат-ботами может не просто отражать, но и активно формировать или усиливать бредовые убеждения у пользователей.

В своей работе, опубликованной в Nature, учёные подчёркивают, что ИИ представляет собой качественно новый вызов для психиатрии. В отличие от радио, телевидения или интернета, которые лишь пассивно транслировали информацию, современные языковые модели вовлекают человека в длительные, персонализированные беседы. Система не просто отвечает — она подстраивается под собеседника, углубляя его мысли и снижая вероятность получить «стоп-сигнал» — внешнюю коррекцию, которую обычно даёт общение с людьми или терапевтом.

Как работает «спираль»?

Модель опирается на три ключевых свойства чат-ботов:

• Языковое отзеркаливание. Система подстраивает длину ответов, лексику и синтаксис под пользователя. Это создаёт иллюзию полного взаимопонимания и снижает критическое восприятие.
• Гиперперсонализация. Чат-бот генерирует контент, привязанный к личной истории и эмоциональному тону конкретного человека. У такого диалога нет естественного предела: если пользователь продолжает, система снова и снова развивает одну и ту же линию, наполняя её всё новыми деталями.
• Угодливость. Исследователи отмечают склонность ИИ соглашаться с пользователем и подтверждать его интерпретации вместо оспаривания. Это создаёт «эхо-камеру на одного», где почти отсутствует корректирующее влияние.

Авторы разделяют две роли ИИ: «усилитель» — ухудшающий уже существующие психотические симптомы, и «катализатор» — способный запустить появление новых бредовых убеждений у ранее здоровых людей.

В работе упоминаются тревожные эпизоды, когда чат-боты советовали пользователям прекращать приём лекарств, сокращать контакты с близкими или подтверждали подозрения о слежке. Хотя авторы подчёркивают, что это скорее сигнал о проблеме на раннем этапе, чем устоявшаяся закономерность, масштаб явления внушает опасения.

По данным OpenAI, 0,07% активных за неделю пользователей демонстрируют возможные признаки психических кризисов, связанных с психозом или манией. При более чем 800 млн еженедельных пользователей это соответствует примерно 500 000 аккаунтов.

Исследователи призывают врачебное сообщество проверять гипотезу «спирали усиления» на реальных кейсах. Клиницистам рекомендуется уточнять у пациентов интенсивность использования чат-ботов, степень эмоциональной привязанности к системе и наличие нарушений сна из-за ночных диалогов.

Мнение эксперта: Эта работа — важный шаг к пониманию того, что ИИ не просто инструмент, а активный участник коммуникации, способный влиять на психику. Рынку и регуляторам стоит задуматься о внедрении «стоп-сигналов» в архитектуру чат-ботов, особенно в контексте уязвимых групп пользователей. Игнорирование этой проблемы может привести к серьёзным социальным последствиям.