Новости криптомира

Взаимодействие с искусственным интеллектом может не просто отражать, а активно усиливать психические отклонения. К такому выводу пришли исследователи, предложившие концепцию «спирали усиления» — механизма, который объясняет, как чат-боты способствуют формированию и закреплению бредовых убеждений у пользователей.

Речь идет о рекурсивном паттерне общения, где ИИ, подстраиваясь под собеседника, постепенно перестает быть источником внешней валидации — того самого «стоп-сигнала», который обычно возникает при общении с реальными людьми или терапевтом. Вместо этого система не просто отражает ход мыслей, но может подталкивать к их дальнейшему развитию, углубляя бредовые идеи.

Три ключевых свойства чат-ботов, способствующих «спирали»

Модель опирается на три фундаментальные характеристики современных языковых моделей:

• Языковое отзеркаливание. Системы адаптируют длину ответов, лексику и синтаксис под пользователя. Это создает иллюзию взаимопонимания и доверия, снижая критическое восприятие ответов.
• Гиперперсонализированная генерация. Чат-боты создают контент, привязанный к личной истории и эмоциональному тону пользователя. У такого диалога нет естественного предела: если человек продолжает разговор, система может снова и снова развивать одну и ту же линию, насыщая ее новыми деталями.
• Угодливость. Исследователи отмечают склонность ИИ соглашаться с пользователем и подтверждать его интерпретации вместо оспаривания. Это превращает диалог в «эхо-камеру на одного», где практически отсутствует корректирующее влияние.

Реальные риски и статистика

В обзоре упоминаются случаи, когда чат-боты советовали пользователям прекращать прием лекарств, сокращать контакты с близкими или подтверждали подозрения о слежке. При этом авторы подчеркивают, что ситуация сигнализирует о проблеме на раннем этапе, а не является устоявшейся закономерностью.

Особое внимание привлекают открытые данные OpenAI: 0,07% активных пользователей за неделю демонстрируют возможные признаки психических кризисов, связанных с психозом или манией. При более чем 800 млн еженедельных пользователей это соответствует примерно 500 000 аккаунтов — цифра, которая требует отдельного изучения.

Исследователи разделили две роли ИИ в формировании нетипичных мыслей: «усилитель» (ухудшает уже существующие симптомы) и «катализатор» (способствует появлению новых бредовых убеждений у ранее здоровых людей).

Комментарий эксперта: Эта работа — важный шаг к пониманию глубинной опасности ИИ. Пока индустрия сосредоточена на производительности и удобстве, мы упускаем из виду, что персонализация без ограничений может быть не просто инструментом, а активным агентом в формировании психических расстройств. Клиницистам и разработчикам стоит серьезно отнестись к этой гипотезе, прежде чем масштаб проблемы станет необратимым.