В начале июля компания Anthropic, разработчик известной ИИ-модели Claude, стала эпицентром необычного инцидента, который вскрыл серьёзные уязвимости в биллинговых системах AI-гигантов. Пользователь из Южной Кореи, скрывавшийся под ником remy_notes, получил счёт на сумму более $16,6 млн, хотя не пользовался платными API и даже не привязывал банковскую карту к сервису.
Ситуация развивалась стремительно. Первый счёт на $1,67 млн пришёл 7 июля. Уже на следующий день сумма выросла в десять раз — до $16,6 млн. При этом разработчик, который использовал исключительно бесплатный тарифный план, не совершал никаких действий, которые могли бы привести к таким начислениям. В личном кабинете потребление API оставалось нулевым, платёжные ключи не были активированы, а карта не привязывалась.
Как банк и поддержка отреагировали на ошибку
Попытки списания были отклонены банком, так как суммы превышали лимит по карте. Однако после нескольких неудачных транзакций банк заблокировал карту пользователя. Для решения проблемы с Anthropic потребовалось четыре дня и около 18 писем в службу поддержки. Вместо вразумительного ответа разработчик получал автоматические отписки. Лишь после ультиматума с крайним сроком в понедельник по корейскому времени компания признала ошибку.
Anthropic заявила, что инцидент произошёл из-за сбоя в настройках функции автопополнения кредита. Компания отключила эту опцию «в целях безопасности», но не объяснила, почему сумма автопополнения достигла столь абсурдных значений. Важно отметить, что деньги фактически не были списаны — все транзакции были отклонены банком.
Системная проблема индустрии
Этот случай — не единичный. Стартап Vaudit провёл аудит счетов на $34 млн за ИИ-услуги для 60 крупных клиентов, включая Panasonic, HP и Honda. Результаты показали переплаты примерно на $1,7 млн — около 5% от всей суммы. Крупнейшие ошибки приходятся именно на биллинг AI-решений. Это говорит о том, что проблема носит системный характер: биллинговые системы многих провайдеров ИИ попросту не готовы к масштабам и сложности современных расчётов.
Моя аналитика: Рынок AI-услуг растёт взрывными темпами, но инфраструктура биллинга явно отстаёт. Подобные сбои — не просто досадные ошибки, а сигнал для всей индустрии. Разработчикам и пользователям стоит регулярно проверять платёжные панели и следить за уведомлениями банка. Случайный сбой может обернуться серьёзными финансовыми проблемами, если вовремя не среагировать.