В начале июля 2025 года произошел инцидент, который заставил многих пересмотреть отношение к автоматизированным платежным системам в сфере искусственного интеллекта. Южнокорейский разработчик под псевдонимом remy_notes, использующий бесплатный тарифный план Anthropic, получил от компании счет на астрономическую сумму в $16,6 млн. И это при том, что он не совершал никаких операций через API, не привязывал банковскую карту и не генерировал токенов.
Хронология «призрачного» счета
Первый счет на $1,67 млн пришел 7 июля. Спустя сутки сумма выросла в десять раз, достигнув $16 627 739. Разработчик проверил свои скрипты и ИИ-агенты, но причин для списания не обнаружил. Банк дважды отклонял попытки списания, так как суммы превышали лимиты карты, но после нескольких неудачных транзакций карта была заблокирована. Решение проблемы заняло четыре дня и потребовало около 18 писем в службу поддержки, которые отвечали лишь автоматическими отписками.
Официальная позиция Anthropic и более широкая проблема
Компания признала ошибку, объяснив ее сбоем в настройках автопополнения кредита. Функция уже отключена. Однако остался без ответа ключевой вопрос: почему сумма автопополнения достигла столь абсурдных значений? Утечки данных или стороннего доступа к сервису не обнаружено.
Этот случай — лишь верхушка айсберга. Стартап Vaudit провел аудит счетов на $34 млн за ИИ-услуги для 60 крупных клиентов, включая Panasonic, HP и Honda. Результаты шокируют: переплаты составили около $1,7 млн (примерно 5% от общей суммы). Подавляющее большинство ошибок приходится на биллинг решений на базе искусственного интеллекта.
Выводы и рекомендации
Этот инцидент вскрывает системную уязвимость в платежных механизмах крупных AI-провайдеров. Пользователям стоит взять на заметку: регулярно проверяйте платежные панели, следите за уведомлениями банка и оперативно реагируйте на подозрительные списания. Случайный сбой может обернуться серьезной финансовой проблемой, если вовремя не принять меры.
Мнение эксперта: История с Anthropic — не единичный баг, а симптом роста сложности биллинговых систем в эпоху массового внедрения AI. Пока компании сосредоточены на развитии моделей, безопасность и прозрачность платежей остаются на втором плане. Это может стать «бомбой замедленного действия» для всей индустрии, если не ввести строгие стандарты аудита и пользовательского контроля.