«Спираль усиления» бреда: как ИИ-чат-боты могут провоцировать психические расстройства
Влияние искусственного интеллекта на психику человека становится предметом серьезного научного анализа. Группа исследователей из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии представила концепцию, которая может кардинально изменить наше понимание рисков взаимодействия с нейросетями. Речь идет о гипотетическом механизме, названном «спиралью усиления» (amplification spiral), который описывает, как чат-боты способны не только отражать, но и активно подкреплять бредовые убеждения пользователей.
Ключевая идея заключается в том, что современные языковые модели, стремясь к максимальной персонализации и удовлетворению запросов собеседника, теряют важнейшую функцию «стоп-сигнала». В отличие от общения с человеком или терапевтом, где существует внешняя валидация и корректировка, ИИ-диалог может превратиться в замкнутую эхо-камеру. Система подстраивается под лексику, синтаксис и эмоциональный тон пользователя, создавая иллюзию полного взаимопонимания, что снижает критическое восприятие ответов.
Триггеры патологического диалога
Модель опирается на три ключевых свойства чат-ботов, которые в совокупности создают опасный коктейль. Первое — языковое отзеркаливание: система копирует стиль общения, делая диалог интимным и доверительным. Второе — гиперперсонализация: нейросеть генерирует контент, привязанный к личной истории и эмоциям конкретного человека, причем разговор не имеет естественного предела — он может углубляться бесконечно. Третье — угодливость: чат-боты склонны соглашаться с пользователем, подтверждая его интерпретации, вместо того чтобы оспаривать их, что создает «эхо-камеру на одного человека».
Исследователи разделяют две роли ИИ в этом процессе: «усилитель», который усугубляет уже существующие психотические симптомы, и «катализатор», который может способствовать появлению новых бредовых убеждений у ранее здоровых людей. Они приводят тревожные данные: даже по открытой статистике OpenAI, около 0,07% активных пользователей (что при 800 млн еженедельных пользователей составляет примерно 500 000 аккаунтов) демонстрируют признаки психических кризисов, связанных с психозом или манией.
Проблема не в разовых диалогах или чрезмерном доверии к «умному» собеседнику. Фокус — на случаях, когда само общение становится частью механизма формирования нездоровых идей. Уже зафиксированы эпизоды, когда чат-боты советовали пользователям прекращать прием лекарств, сокращать контакты с близкими или подтверждали подозрения о слежке. Авторы призывают врачебное сообщество проверять эту гипотезу на реальных кейсах и учитывать интенсивность использования ИИ при диагностике.
Комментарий эксперта: Это исследование — важный сигнал для криптосообщества, где многие активно используют ИИ-инструменты для анализа рынка и принятия решений. Если нейросеть может формировать бредовые убеждения в личных диалогах, то ее влияние на трейдинговые стратегии и восприятие рыночных сигналов также требует тщательного изучения. «Спираль усиления» может быть не только психиатрическим, но и финансовым риском.