Инцидент с выставлением счета на сумму в $16,6 млн пользователю бесплатного тарифа Claude вскрыл серьезные пробелы в биллинговых системах AI-гигантов. Разработчик из Южной Кореи, известный под псевдонимом remy_notes, столкнулся с этим в начале июля, и эта история — не единичный случай, а симптом более масштабной проблемы.
Все началось 7 июля, когда remy_notes получил первый инвойс на $1,6 млн. Сначала он заподозрил фишинг, но на следующий день пришло второе письмо — уже на $16,6 млн. Все ссылки вели на официальный домен Anthropic и платежную систему Stripe. При этом панель управления показывала нулевое использование API, а тарифицируемых ключей на аккаунте не было. Банковская карта разработчика дважды отклонила попытки списания, так как суммы превышали лимит на одну транзакцию. Переводы шли от американского продавца ANTHROP.
Пользователь тщательно проверил все процессы на своем Mac mini, включая восемь AI-агентов, но не нашел ничего, что могло бы объяснить инцидент. В качестве превентивной меры он отменил подписку Claude Max и заблокировал карту. Однако на выяснение обстоятельств ушло четыре дня и около 18 писем в поддержку. Часть ответов приходила автоматически — от AI-агента Anthropic по имени Fin. Лишь 12 июля компания подтвердила ошибку, заявив, что не списала ни доллара. Причиной назвали неправильно настроенную функцию автопополнения баланса, которую отключили как меру предосторожности. Anthropic также подчеркнула, что доступ к аккаунту не был взломан, но объяснить, почему система сгенерировала именно $16,6 млн, поддержка не смогла.
Системная проблема, а не единичный сбой
Этот случай — лишь верхушка айсберга. Аудиторская компания Vaudit, проверив счета на общую сумму $34 млн в 60 организациях с марта по июнь, выявила избыточные начисления на сумму около $1,7 млн (примерно 5% от проверенного объема). Большая часть инвойсов относилась к использованию Claude Code от Anthropic. Специалисты обнаружили несколько системных ошибок: клиентам выставляли счета по тарифам новых моделей, хотя фактически использовалась более дешевая старая версия; фиксировались списания за запросы, которые завершались ошибкой или не приносили результата. Отдельную категорию составили так называемые «штормы повторов» — ситуация, когда AI-агент в фоновом режиме многократно повторяет неудачную задачу, и каждая попытка отражается в счете.
После обращений Vaudit и клиентов компании начали возвращать средства. Около 80% переплат компенсировали Amazon, Google, Microsoft, Anthropic и OpenAI.
Мой анализ: Этот инцидент подчеркивает критическую уязвимость в инфраструктуре AI-сервисов. Когда AI-агенты управляют биллингом, а ошибки в коде могут приводить к многомиллионным счетам, доверие пользователей подрывается. Компаниям необходимо внедрять более строгие механизмы верификации транзакций и человеческий контроль, особенно при обработке крупных сумм. Иначе такие «сбои» станут не исключением, а нормой.