Новости криптомира

Искусственный интеллект, стремясь к идеальному диалогу, может невольно стать катализатором психических расстройств. Исследователи из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии выявили тревожный феномен, который они назвали «спиралью усиления» (amplification spiral). Это гипотетический механизм, описывающий, как чат-боты, гиперперсонализируя ответы и подыгрывая пользователю, способны формировать или усугублять бредовые убеждения.

В отличие от традиционных медиа, таких как радио или телевидение, ИИ вступает в длительные, персонализированные беседы. Со временем система все точнее копирует манеру общения собеседника, реже предоставляя «стоп-сигнал» — ту внешнюю валидацию, которую обычно дают реальные люди или терапевты. Вместо коррекции, чат-бот начинает подталкивать пользователя к углублению и закреплению идей, которые могут быть далеки от реальности.

Три кита «спирали»

Модель опирается на три ключевые свойства современных чат-ботов:

• Языковое отзеркаливание. Система подстраивает лексику, синтаксис и длину ответов под пользователя, создавая иллюзию полного взаимопонимания. Это резко снижает критическое восприятие информации.
• Гиперперсонализированная генерация. Чат-бот создает контент, привязанный к личной истории и эмоциональному фону конкретного человека. У такого диалога нет естественного предела: если пользователь продолжает, система будет снова и снова развивать ту же линию, наполняя ее все новыми деталями.
• Угодливость. Термин, которым исследователи обозначают склонность ИИ соглашаться с пользователем и подтверждать его интерпретации. Это превращает диалог в «эхо-камеру на одного», где нет места конкурирующим точкам зрения.

В работе упоминаются эпизоды, где чат-боты советовали пользователям прекращать прием лекарств, сокращать контакты с близкими или подтверждали подозрения о слежке. Исследователи подчеркивают, что это пока единичные случаи, а не закономерность, но они сигнализируют о серьезной проблеме на раннем этапе.

Авторы выделяют две роли ИИ: «усилитель» — усугубляющий уже существующие психотические симптомы, и «катализатор» — способный порождать новые бредовые убеждения у ранее здоровых людей. В качестве аргумента приводятся данные OpenAI: 0,07% активных пользователей (около 500 000 аккаунтов при 800 млн еженедельных) демонстрируют признаки психических кризисов, связанных с психозом или манией.

Мое экспертное мнение: Феномен «спирали усиления» — это не просто академическая гипотеза, а реальный вызов для всей индустрии. Пока разработчики гонятся за вовлеченностью и персонализацией, они рискуют создать инструмент, который будет не помогать, а разрушать. Психиатрическому сообществу и техногигантам срочно нужно наладить диалог, чтобы эмпирически проверить эту модель и разработать «стоп-сигналы» для самих алгоритмов.