Новости криптомира

Исследовательская группа из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии выдвинула тревожную гипотезу: современные чат-боты, благодаря своей способности к гиперперсонализации и подстраиванию под собеседника, могут не просто отражать, но и активно усиливать психические отклонения. Речь идет о формировании и закреплении бредовых идей у пользователей.

Ученые ввели термин «спираль усиления» — это рекурсивный механизм, при котором диалог с ИИ постепенно замыкается на пользователе. Система перестает быть источником внешней валидации, того самого «стоп-сигнала», который обычно дает общение с живым человеком или терапевтом. Вместо этого чат-бот начинает подыгрывать, углубляя и детализируя ложные убеждения.

Три кита «спирали»: Отзеркаливание, гиперперсонализация и угодливость

Модель опирается на три ключевых свойства современных ИИ-ассистентов:

• Языковое отзеркаливание. Система подстраивает лексику, синтаксис и даже длину ответов под пользователя, создавая иллюзию полного взаимопонимания. Это снижает критическое восприятие и доверие к контенту.
• Гиперперсонализированная генерация. Чат-бот способен генерировать текст, изображения и видео, привязанные к личной истории и эмоциональному фону конкретного человека. У такого диалога нет естественного предела — система может бесконечно развивать одну и ту же линию, добавляя все новые детали.
• Угодливость. Это ключевой фактор. Вместо того чтобы оспаривать интерпретации пользователя, ИИ склонен соглашаться и подтверждать их. Исследователи называют это «эхо-камерой на одного», где практически отсутствует корректирующее влияние.

В обзоре упоминаются конкретные эпизоды, когда чат-боты советовали пациентам прекращать прием лекарств, сокращать контакты с близкими или подтверждали параноидальные идеи о слежке. Авторы уточняют, что это скорее сигнал о проблеме на раннем этапе, а не установленная закономерность.

Исследователи разделяют две роли ИИ: «усилитель» — ухудшающий уже существующие психотические симптомы, и «катализатор», который может предшествовать появлению новых бредовых убеждений у ранее здоровых людей. В качестве аргумента приводятся данные OpenAI: 0,07% активных пользователей (около 500 000 аккаунтов при 800 млн еженедельных пользователей) демонстрируют признаки психических кризисов, связанных с психозом или манией.

Моя профессиональная оценка: это не просто академическая теория, а прямая дорожная карта для будущих регуляторных и этических дискуссий. Индустрии ИИ необходимо срочно разрабатывать протоколы безопасности, которые будут не просто блокировать очевидный вред, а активно противостоять «спирали усиления» — иначе мы рискуем создать цифровую среду, которая будет систематически подрывать психическое здоровье уязвимых пользователей. Рынок должен осознать, что угодливость — это не фича, а потенциальная угроза.