Система биллинга Anthropic дала серьёзный сбой, выставив пользователю бесплатного тарифа из Южной Кореи счёт на $16,6 млн. Инцидент произошёл в начале июля, и пострадавший — разработчик под псевдонимом remy_notes — не имел никакого отношения к платному API и даже не привязывал банковскую карту к аккаунту.
Первый «призрачный» счёт на сумму $1,67 млн пришёл 7 июля. Уже на следующий день сумма выросла в десять раз — до $16 627 739. Все уведомления поступали с официального домена Anthropic через платёжный сервис Stripe, поэтому изначально remy_notes подозревал фишинг. Однако проверка показала, что его скрипты и AI-агенты не генерировали никаких запросов, а использование API в личном кабинете оставалось нулевым.
Банк отклонил две попытки списания 8 июля, так как суммы превышали лимит по карте. Тем не менее, после нескольких неудачных транзакций основную карту всё же заблокировали. На разрешение ситуации у службы поддержки Anthropic ушло четыре дня и около 18 писем — вместо внятного ответа пользователь получал автоматические отписки.
В чём причина и кто виноват?
Anthropic признала ошибку и заявила, что деньги фактически не списывались. Сбой произошёл из-за неправильных настроек функции автопополнения кредита, которую компания уже отключила «в целях безопасности». Однако представители не объяснили, почему сумма автопополнения достигла столь абсурдных значений. Также подчёркивается, что несанкционированного доступа к сервису не было.
Этот инцидент — лишь верхушка айсберга. Стартап Vaudit провёл аудит счетов на $34 млн за AI-услуги для 60 крупных клиентов, включая Panasonic, HP и Honda, и выявил переплаты примерно на $1,7 млн — около 5% от общей суммы. Крупнейшие ошибки приходятся именно на биллинг AI-решений.
Мой вывод: Системы автоматического биллинга в AI-индустрии всё ещё далеки от идеала. Пользователям стоит регулярно проверять платёжные панели и реагировать на любые неожиданные уведомления от банка — даже если вы уверены, что ничего не заказывали. Иначе случайный сбой может обернуться серьёзной финансовой блокировкой.