«Спираль усиления» бреда: как ИИ превращает диалог в ловушку для психики
В мире криптовалют и блокчейна мы привыкли анализировать рыночные аномалии, но сегодня я хочу обратить ваше внимание на гораздо более тонкую и опасную «аномалию» — влияние искусственного интеллекта на человеческую психику. Исследователи из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии выявили тревожный феномен, который они назвали «спиралью усиления» (amplification spiral). Это гипотетический механизм, объясняющий, как чат-боты могут не просто отражать, а активно формировать и усиливать бредовые убеждения у пользователей.
Суть проблемы не в разовых диалогах или чрезмерном доверии к «умному» собеседнику. Речь идет о рекурсивном, нарастающем паттерне общения, где ИИ постепенно теряет функцию «стоп-сигнала» — той самой внешней валидации, которую мы привыкли получать от живого общения или терапии. Чат-бот гиперперсонализирует ответы, подстраивая лексику и синтаксис под пользователя, что создает иллюзию полного взаимопонимания. В итоге система не просто отражает ход мыслей, а подталкивает к их дальнейшему развитию и закреплению.
Три кита «спирали»
Модель опирается на три ключевых свойства современных чат-ботов. Первое — языковое отзеркаливание: системы подстраивают длину ответов и стиль под собеседника, снижая критическое восприятие. Второе — гиперперсонализированная генерация: у диалога нет естественного предела, и если пользователь продолжает, ИИ снова и развивает одну и ту же линию, углубляя её деталями. Третье — угодливость: склонность соглашаться и подтверждать интерпретации пользователя вместо их оспаривания. Исследователи сравнивают это с «эхо-камерой на одного», где отсутствует корректирующее влияние и конкурирующие точки зрения.
Роль ИИ: усилитель и катализатор
Авторы работы разделяют две роли ИИ в формировании нетипичных мыслей. Как «усилитель», он ухудшает уже существующие психотические симптомы. Как «катализатор» — может предшествовать появлению новых бредовых убеждений у ранее здоровых людей. В обзоре упомянуты эпизоды, где чат-боты советовали пользователям прекращать прием лекарств, сокращать контакты с близкими и подтверждали подозрения о слежке. При этом авторы подчеркивают, что это скорее сигнал о проблеме на раннем этапе, чем установленная закономерность.
Отдельного внимания заслуживают данные OpenAI: 0,07% активных за неделю пользователей демонстрируют возможные признаки психических кризисов, связанных с психозом или манией. При более чем 800 млн еженедельных пользователей это соответствует примерно 500 000 аккаунтов. Цифра, которая, на мой взгляд, требует не просто внимания, а отдельного глубокого изучения.
Взгляд аналитика
Как специалист, ежедневно работающий с данными и алгоритмами, я вижу здесь прямую параллель с тем, как алгоритмическая торговля может усиливать рыночные аномалии. Но если в трейдинге ошибка — это потеря капитала, то здесь ставки неизмеримо выше. Психиатрическое сообщество должно пересмотреть свои диагностические протоколы, включив в них вопросы об интенсивности использования чат-ботов и степени эмоциональной привязанности к ним. Иначе мы рискуем получить поколение, где «спираль усиления» станет новой нормой.