На прошлой неделе произошел инцидент, который наглядно демонстрирует как потенциал, так и риски внедрения искусственного интеллекта в финансовые и информационные системы. Пользователь Coinbase под ником jay_drainjr получил push-уведомление от биржи, в котором сообщалось, что сборная Норвегии обыграла Бразилию со счетом 3:2 в матче плей-офф чемпионата мира по футболу, а Эрлинг Холанд оформил дубль. Проблема заключалась лишь в одном: игра еще не началась.
Этот случай — классический пример галлюцинации ИИ, когда модель генерирует убедительный, но полностью ложный результат. Уведомление было сгенерировано в разделе «Тренды» платформы, который использует искусственный интеллект для создания новостных сводок на основе данных с рынков предсказаний Kalshi. Напомню, что Coinbase недавно интегрировала Kalshi в свою экосистему в рамках стратегии «Everything Exchange» — создания универсальной торговой площадки.
Генеральный директор Coinbase Брайан Армстронг оперативно отреагировал на ситуацию, пообещав разобраться лично. На следующий день глава потребительских и бизнес-продуктов Макс Бранцбург подтвердил, что ошибка исправлена, а системы обновлены для предотвращения подобных инцидентов. Любопытно, что реальный финал матча оказался иным: Норвегия выиграла 2:1, но Холанд действительно забил два гола. «ИИ, возможно, знал что-то, чего не знали мы», — пошутил Бранцбург, хотя на самом деле это лишь случайное совпадение.
Важно отметить, что этот инцидент происходит на фоне активной стратегии Coinbase по внедрению ИИ. В мае биржа объявила о сокращении 14% штата, объяснив это необходимостью оптимизации расходов и переориентацией на искусственный интеллект. В июне был запущен сервис Coinbase for Agents, позволяющий цифровым ассистентам торговать от имени пользователей. Кроме того, компания участвует в инициативе Amazon по внедрению платежей для ИИ-агентов.
Мой комментарий: Данный случай — не просто забавный курьез, а серьезный звонок для всей индустрии. Когда биржа, управляющая миллиардами долларов клиентских средств, начинает полагаться на ИИ для генерации «новостей», цена ошибки может быть катастрофической. Представьте, если бы такое уведомление спровоцировало массовые покупки или продажи на рынках предсказаний. Coinbase необходимо не просто «исправить ошибку», а кардинально пересмотреть архитектуру безопасности своих ИИ-систем, внедрив многоуровневую верификацию данных перед отправкой пользователям. Доверие — самый хрупкий актив в криптовалютах, и такие инциденты подрывают его гораздо сильнее, чем кажется на первый взгляд.