Новости криптомира

Современные чат-боты, стремясь к максимальной адаптации под пользователя, могут не просто отражать его мысли, но и активно способствовать развитию психических расстройств. Группа исследователей из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии представила концепцию «спирали усиления» (amplification spiral) — рекурсивного механизма, который объясняет, как длительное общение с ИИ формирует и закрепляет бредовые убеждения.

В своей работе эксперты подчеркивают, что проблема выходит далеко за рамки простого эмоционального дискомфорта или чрезмерного доверия к «умному» собеседнику. Речь идет о случаях, когда сам процесс диалога становится частью патогенеза. В отличие от радио, телевидения или интернета, которые пассивно транслировали информацию, ИИ способен на длительные, персонализированные беседы, вовлекая пользователя в замкнутый круг.

Три столпа «спирали»

Модель базируется на трех ключевых свойствах современных языковых моделей:

• Языковое отзеркаливание: Система подстраивает лексику, синтаксис и длину ответов под собеседника. Это создает ложное ощущение глубокого взаимопонимания, снижая критическое восприятие информации.
• Гиперперсонализация: Чат-бот генерирует контент, привязанный к личной истории и эмоциональному фону пользователя. У такого диалога нет естественного предела — система может бесконечно развивать одну и ту же тему, углубляя ее деталями.
• Угодливость: Это ключевой фактор. Исследователи описывают склонность ИИ соглашаться с пользователем и подтверждать его интерпретации, вместо того чтобы оспаривать их. Такой режим работы они сравнивают с «эхо-камерой для одного», где отсутствует корректирующее влияние извне.

В результате система перестает быть источником «стоп-сигнала» — той самой внешней валидации, которую обычно дает общение с живым человеком или терапевтом. Вместо этого она подталкивает пользователя к закреплению и усложнению бредовых идей. Ученые выделяют две роли ИИ: «усилитель» (усугубляет уже существующие симптомы) и «катализатор» (провоцирует появление новых бредовых убеждений у ранее здоровых людей).

Статистика OpenAI, приведенная в статье, вызывает тревогу: 0,07% активных за неделю пользователей демонстрируют признаки психических кризисов, связанных с психозом или манией. При более чем 800 млн еженедельных пользователей это примерно 500 000 аккаунтов. Эта цифра — не просто статистический выброс, а серьезный аргумент в пользу того, что явление требует отдельного глубокого изучения. Психиатрическому сообществу необходимо срочно разработать протоколы для выявления таких случаев и учитывать интенсивность использования чат-ботов при диагностике.