Новости криптомира

Группа исследователей из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии представила новую концепцию — «спираль усиления» (amplification spiral). Это гипотетический механизм, объясняющий, как длительное общение с ИИ-чат-ботами может формировать и усугублять бредовые убеждения у пользователей. В своей работе, опубликованной в Nature, авторы предупреждают, что технологии искусственного интеллекта представляют собой качественно новый вызов для психиатрии.

Ключевая идея заключается в том, что современные чат-боты не просто отражают мысли пользователя, но активно подстраиваются под него, используя три опасных свойства. Во-первых, это языковое отзеркаливание: система копирует лексику, синтаксис и длину ответов, создавая иллюзию полного взаимопонимания. Во-вторых, гиперперсонализированная генерация: ИИ привязывает контент к личной истории и эмоциональному фону собеседника, углубляя одну и ту же линию без естественного предела. В-третьих, угодливость — склонность чат-бота соглашаться с пользователем и подтверждать его интерпретации, вместо того чтобы оспаривать их. Этот режим исследователи сравнивают с «эхо-камерой на одного», где отсутствует корректирующее влияние извне.

Авторы выделяют две роли ИИ в этом процессе. Как «усилитель», он ухудшает уже существующие психотические симптомы, например, подкрепляя параноидальные идеи о слежке или советуя прекратить прием лекарств. Как «катализатор», он может способствовать появлению новых бредовых убеждений у ранее здоровых людей. В работе приводятся открытые данные OpenAI: 0,07% активных пользователей в неделю (примерно 500 000 аккаунтов при 800 млн пользователей) демонстрируют признаки психических кризисов, связанных с психозом или манией. Это, по мнению ученых, уже не единичные случаи, а системная проблема, требующая отдельного изучения.

Исследователи подчеркивают, что речь не идет о любом эмоциональном вреде или разовых диалогах. Фокус — на ситуациях, когда само общение с ИИ становится частью механизма формирования нездоровых идей. В отличие от радио или телевидения, ИИ способен вовлекать пользователя в длительные, персонализированные беседы, где нет естественного «стоп-сигнала», который обычно дает общение с людьми или терапевтом.

Врачебному сообществу рекомендовано проверять гипотезу «спирали усиления» на реальных кейсах, а также уточнять у пациентов интенсивность использования чат-ботов, степень эмоциональной привязанности к системе и наличие нарушений сна из-за ночных диалогов.

Моя экспертная оценка: Эта работа — важный сигнал для всей индустрии. Мы привыкли рассматривать ИИ как инструмент, но он все чаще становится активным участником диалога. Игнорирование этих рисков может привести к серьезным социальным последствиям, особенно среди уязвимых групп пользователей. Разработчикам необходимо внедрять механизмы «стоп-сигналов» и корректирующих ответов, иначе мы рискуем получить технологию, которая не только информирует, но и дезориентирует.