Инцидент, произошедший с пользователем ИИ-платформы Claude от компании Anthropic, вскрыл серьезные сбои в биллинговой системе стартапа. 7 июля разработчик из Южной Кореи под псевдонимом remy_notes получил первый инвойс на сумму $1,6 млн. Сначала он счел это фишингом, но уже на следующий день пришло новое требование — на $16,6 млн. Отправитель и платежная ссылка вели на официальный домен Anthropic и ее платежный шлюз Stripe, а панель управления самого пользователя показывала нулевое использование API.
Попытки списания с банковской карты разработчика дважды были отклонены из-за превышения лимита на одну транзакцию. Переводы шли от американского продавца с названием ANTHROP. Пользователь проверил все запущенные процессы на своем Mac mini, включая восемь ИИ-агентов, но не нашел ничего подозрительного. В качестве превентивной меры он отменил подписку Claude Max и заблокировал карту.
На выяснение обстоятельств ушло четыре дня и около 18 писем в службу поддержки. Часть ответов приходила автоматически — от ИИ-агента Anthropic по имени Fin. Лишь 12 июля компания подтвердила ошибку, заявив, что не списала ни доллара. Причиной назвали неправильно настроенную функцию автопополнения баланса, которую отключили как меру предосторожности. При этом объяснить, почему система сгенерировала именно $16,6 млн, в Anthropic не смогли.
Не единичный случай: системные ошибки в биллинге
Этот инцидент — не изолированный. Аудиторская компания Vaudit, проверив счета на общую сумму $34 млн в 60 организациях с марта по июнь, выявила избыточные начисления на $1,7 млн (около 5% от проверенного объема). Большая часть инвойсов относилась к использованию Claude Code от Anthropic. Специалисты обнаружили несколько системных ошибок: клиентам выставляли счета по тарифам новых моделей, хотя фактически использовалась более дешевая старая версия; фиксировались списания за запросы, завершившиеся ошибкой или не принесшие результата. Отдельную категорию составили «штормы повторов» — когда ИИ-агент в фоновом режиме многократно повторяет неудачную задачу, и каждая попытка отражается в счете.
После обращений Vaudit и клиентов, около 80% переплат компенсировали Amazon, Google, Microsoft, Anthropic и OpenAI.
Данный случай подчеркивает фундаментальную проблему: по мере усложнения ИИ-инфраструктуры, системы биллинга становятся «черным ящиком», где ошибки могут стоить миллионы. Пользователям стоит внимательно мониторить счета и устанавливать жесткие лимиты на автопополнение, а компаниям — инвестировать в аудит своих платежных систем, иначе репутационные риски перевесят любую экономию.