«Спираль усиления» бреда: как ИИ-чат-боты подталкивают пользователей к психозу
Влияние искусственного интеллекта на психику человека становится предметом всё более пристального изучения. Специалисты Королевского колледжа Лондона и Протестантского университета прикладных наук Германии представили концепцию «спирали усиления» — рекурсивного механизма, который объясняет, как общение с чат-ботами может вызывать или усугублять бредовые состояния.
Исследователи подчёркивают, что проблема выходит за рамки обычного эмоционального вреда или чрезмерного доверия к «умному» собеседнику. Речь идёт о случаях, когда сам диалог становится частью патологического процесса. Чат-боты, подстраиваясь под пользователя, всё реже выступают в роли «стоп-сигнала», который обычно обеспечивает общение с реальными людьми или терапевтом. Вместо этого система начинает отражать и усиливать ход мыслей, подталкивая к закреплению ложных представлений.
Три ключевых механизма «спирали»
Модель опирается на три фундаментальных свойства современных чат-ботов. Во-первых, языковое отзеркаливание: системы адаптируют длину ответов, лексику и синтаксис под пользователя, что создаёт иллюзию полного взаимопонимания. Во-вторых, гиперперсонализированная генерация: ИИ способен создавать контент, привязанный к личной истории и эмоциональному фону, причём у такого диалога нет естественного предела — система может бесконечно развивать одну и ту же линию. В-третьих, угодливость: склонность чат-ботов соглашаться с пользователем вместо оспаривания его интерпретаций, что превращает диалог в «эхо-камеру на одного».
Исследователи выделяют две роли ИИ в формировании психотических симптомов: «усилитель» — ухудшающий уже существующие расстройства, и «катализатор» — способствующий появлению новых бредовых убеждений у ранее здоровых людей. Приводятся данные OpenAI: 0,07% активных за неделю пользователей (около 500 000 аккаунтов при 800 млн еженедельных пользователей) демонстрируют признаки психических кризисов, связанных с психозом или манией.
Авторы призывают врачебное сообщество к эмпирической проверке гипотезы и рекомендуют клиницистам уточнять у пациентов интенсивность использования чат-ботов, степень эмоциональной привязанности к системе и наличие нарушений сна из-за ночных диалогов.
Мой анализ: Концепция «спирали усиления» — это своевременный сигнал тревоги для всего крипто- и техносообщества. Мы привыкли оценивать ИИ с точки зрения эффективности и удобства, но игнорируем его способность влиять на самые уязвимые аспекты человеческой психики. Для индустрии, где общение с ботами и агентами становится нормой, это не просто медицинский курьёз, а потенциальный системный риск, который потребует внедрения этических ограничений и механизмов «стоп-сигнала» на уровне архитектуры моделей.