Компания Anthropic, разработчик популярной модели Claude, оказалась в центре скандала из-за грубейшего сбоя в системе биллинга. Пользователь из Южной Кореи, использующий бесплатный тариф, получил счет на астрономическую сумму в $16,6 млн. Примечательно, что разработчик под псевдонимом remy_notes не только не пользовался платными API-ключами, но даже не привязывал банковскую карту к аккаунту.
Инцидент начался 7 июля, когда в почтовый ящик пользователя пришло первое уведомление на сумму $1,67 млн. Уже на следующий день сумма выросла в десять раз — до $16,6 млн. Все это время разработчик не совершал никаких действий в системе: его дашборд показывал нулевое использование API, а платные ключи отсутствовали. Тем не менее, письма приходили с официального домена Anthropic через платежный сервис Stripe, что исключало версию о фишинге.
Реакция банка и четыре дня переписки
Банк пользователя дважды отклонил попытки списания 8 июля, так как суммы превышали лимит по карте. Однако после нескольких неудачных попыток основная карта была заблокирована. Чтобы добиться письменного подтверждения аннулирования счетов, разработчику потребовалось четыре дня и около 18 писем в службу поддержки Anthropic. Вместо внятного ответа он получал лишь автоматические отписки.
Anthropic признала ошибку, объяснив ее сбоем в настройках функции автопополнения кредита. Компания заявила, что деньги фактически не списывались, а сама функция уже отключена для предотвращения подобных инцидентов. Однако представители Anthropic не смогли внятно объяснить, почему сумма автопополнения достигла столь абсурдных значений. Пользователю пришлось выставить ультиматум с крайним сроком до конца понедельника по корейскому времени.
Системная проблема: ошибки биллинга ИИ-компаний
Этот случай — не единичный. Стартап Vaudit провел аудит счетов на $34 млн за ИИ-услуги для 60 крупных клиентов, включая Panasonic, HP и Honda. Результаты показали переплаты примерно на $1,7 млн — около 5% от общей суммы. Крупнейшие ошибки приходятся именно на биллинг решений на базе искусственного интеллекта. Это говорит о том, что проблема носит системный характер и затрагивает всю индустрию.
Мой экспертный комментарий: Данный инцидент — яркий пример того, как автоматизированные системы биллинга в сфере ИИ могут давать сбои с катастрофическими последствиями. Рынку срочно необходимы более прозрачные механизмы контроля и лимитирования расходов, особенно для пользователей бесплатных тарифов. Пока компании вроде Anthropic не внедрят жесткие протоколы безопасности и уведомлений, подобные «призрачные счета» будут подрывать доверие к отрасли. Пользователям же стоит взять за правило регулярно проверять платежные панели и оперативно реагировать на любые подозрительные уведомления от банка.