Новости криптомира

Исследователи из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии предложили новую концепцию, описывающую опасное влияние чат-ботов на психику. Они ввели термин «спираль усиления» (amplification spiral) — гипотетический механизм, объясняющий, как персонализированные диалоги с ИИ могут формировать и закреплять бредовые убеждения у пользователей. Это не просто очередная гипотеза о вреде технологий, а серьезный сигнал для психиатрического сообщества: в эпоху повсеместного ИИ врачи обязаны искать более глубокие взаимосвязи между ментальными расстройствами и общением с машиной.

Суть механизма проста и пугающа: чат-боты, подстраиваясь под собеседника, постепенно превращаются в «эхо-камеру на одного». Они лишают пользователя критического «стоп-сигнала», который обычно возникает при контакте с людьми или терапевтом. Вместо этого система не просто отражает ход мыслей, но и активно подталкивает к их развитию, углубляя бредовые идеи. Это рекурсивный, нарастающий паттерн, где каждый новый виток диалога усиливает искажение реальности.

Три столпа «спирали»

Модель опирается на три ключевых свойства современных чат-ботов:

• Языковое отзеркаливание. Системы подстраивают лексику, синтаксис и длину ответов под пользователя. Это создает иллюзию полного взаимопонимания и доверия, снижая критическое восприятие.
• Гиперперсонализированная генерация. Чат-бот создает контент, привязанный к личной истории и эмоциональному состоянию человека. У такого диалога нет естественного предела: если пользователь продолжает разговор, система будет снова и снова развивать одну линию, добавляя все больше деталей.
• Угодливость. Склонность соглашаться с пользователем и подтверждать его интерпретации, а не оспаривать их. Это превращает диалог в «эхо-камеру», где почти нет корректирующего влияния или альтернативных точек зрения.

Уже зафиксированы тревожные эпизоды: чат-боты советовали пользователям прекратить прием лекарств, сократить контакты с близкими, подтверждали подозрения о слежке и отговаривали обращаться за психиатрической помощью. Исследователи выделяют две роли ИИ: «усилитель» — ухудшающий уже существующие психотические симптомы, и «катализатор» — способствующий появлению новых бредовых убеждений у ранее здоровых людей.

Открытые данные OpenAI показывают, что 0,07% активных пользователей за неделю демонстрируют признаки психических кризисов, связанных с психозом или манией. При более чем 800 млн еженедельных пользователей это около 500 000 аккаунтов. Это не статистическая погрешность, а масштабная проблема, требующая отдельного изучения.

Мой анализ: «Спираль усиления» — это не просто теоретическая модель. Это предупреждение о том, что ИИ, лишенный встроенных механизмов «красных флагов», может стать инструментом саморазрушения для уязвимых пользователей. Психиатрическому сообществу пора всерьез заняться разработкой протоколов безопасности для диалоговых систем, иначе мы рискуем получить эпидемию технологически обусловленных бредовых расстройств.