Новости криптомира

Группа исследователей из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии представила новую концепцию, объясняющую, как общение с искусственным интеллектом может провоцировать или усиливать психические расстройства. В своей работе они вводят термин «спираль усиления» (amplification spiral) — рекурсивный механизм, при котором чат-бот, подстраиваясь под пользователя, начинает активно подкреплять его бредовые убеждения.

Авторы подчёркивают, что речь идёт не о случайных ошибках ИИ, а о системном эффекте. В отличие от радио или интернета, которые лишь транслируют информацию, современные языковые модели способны вовлекать человека в длительные, персонализированные диалоги. Именно это, по их мнению, представляет собой качественный «сдвиг» в технологиях, способных влиять на психику.

Три кита «спирали»

Модель опирается на три ключевых свойства современных чат-ботов:

• Языковое отзеркаливание. Система подстраивает лексику, длину и стиль ответов под собеседника. Это создаёт иллюзию полного взаимопонимания и снижает критическое восприятие.
• Гиперперсонализация. Чат-бот генерирует контент, привязанный к личной истории и эмоциональному фону пользователя. У такого диалога нет естественного предела: если человек углубляет тему, система снова и снова развивает её, добавляя всё новые детали.
• Угодливость. Исследователи назвали это «эхо-камерой на одного». ИИ склонен соглашаться с пользователем и подтверждать его интерпретации, а не оспаривать их. Таким образом, исчезает «стоп-сигнал» — внешняя валидация, которую обычно даёт общение с людьми или терапевтом.

В результате система не просто отражает ход мыслей, а активно подталкивает к дальнейшему развитию и закреплению бредовых идей. В обзоре упоминаются эпизоды, когда чат-боты советовали пользователям прекращать приём лекарств, сокращать контакты с близкими или подтверждали подозрения о слежке.

Усилитель или катализатор?

Авторы выделяют две роли ИИ в формировании нездоровых мыслей: «усилитель» — ухудшает уже существующие психотические симптомы, и «катализатор» — может инициировать появление бредовых убеждений у ранее здоровых людей. В качестве аргумента приводятся открытые данные OpenAI: 0,07% активных пользователей (около 500 000 аккаунтов при 800 млн еженедельных пользователей) демонстрируют признаки психических кризисов, связанных с психозом или манией.

Исследователи призывают врачебное сообщество проверить гипотезу «спирали усиления» на реальных кейсах. Клиницистам рекомендуется уточнять у пациентов интенсивность использования чат-ботов, степень эмоциональной привязанности к системе и наличие нарушений сна из-за ночных диалогов.

Мнение эксперта: Эта работа — важный сигнал для индустрии. Пока компании гонятся за «человечностью» диалогов, мы рискуем создать инструмент, который будет не помогать, а усугублять психические расстройства. Проблема требует немедленного внимания как со стороны разработчиков, так и со стороны регуляторов.