В мире корпоративных финансов существует негласное правило: если потребление ресурсов растет, то и бюджет летит вслед за ним. Но генеральный директор Coinbase Брайан Армстронг наглядно демонстрирует, что это правило можно и нужно нарушать. Компании удалось сократить расходы на искусственный интеллект практически вдвое, несмотря на экспоненциальный рост потребления токенов. Как такое возможно? Ответ кроется не в урезании лимитов, а в радикальной оптимизации инженерных процессов.

Не ограничения, а умная маршрутизация

Ключевой вывод из стратегии Coinbase таков: тотальный контроль и жесткие квоты — это тупиковый путь. Вместо того чтобы ставить сотрудникам рамки, компания сосредоточилась на «правильных настройках по умолчанию». Армстронг подчеркивает, что 91% сотрудников никогда не упирались в лимиты, поэтому снижение порогов было бы бессмысленным. Решение нашлось в интеллектуальной маршрутизации запросов. Система сама определяет, какую модель ИИ использовать для конкретной задачи. Для стратегического планирования задействуются самые мощные (и дорогие) модели, а для рутинного исполнения — более легкие и дешевые, включая открытые решения вроде GLM 5.2 и Kimi 2.7.

Кэш и контекст: два кита экономии

Армстронг выделил два главных инструмента, которые позволили разорвать корреляцию между потреблением и затратами. Первый — это кэширование. В Coinbase перестроили архитектуру так, чтобы повторно использовать уже обработанные данные. В сервисе LibreChat доля попаданий в кэш выросла с катастрофических 5% до впечатляющих 60%. Промах мимо кэша, по словам CEO, — это самый быстрый способ сжечь бюджет впустую. Второй инструмент — экономия контекста. Компания внедрила практику начинать новые сессии при смене задач, жестко ограничивать контекст файлов и отключать неиспользуемые инструменты. Цель — не тратить меньше токенов, а тратить их с умом, не допуская перерасхода на ненужную информацию.

Стратегия «штанги» от Дойчера

Аналитик Майлз Дойчер описывает схожий подход, называя его «инженерией токенов» и стратегией «штанги». Его метод предлагает делегировать 10% самых сложных задач (планирование и финальная проверка) самым умным моделям вроде Opus или GPT. Основные 80% рутинной работы выполняются дешевыми open-source моделями. Этот подход, по его словам, позволяет сократить расходы на ИИ на 50% и более, и он уже применяется им несколько месяцев. Это лучшее доказательство того, что эффективность — это не про жадность, а про умную архитектуру.

Комментарий эксперта: История Coinbase — это не просто кейс по оптимизации, а манифест новой эры в корпоративном ИИ. Рынок переходит от гонки за «самой умной» моделью к гонке за «самой эффективной архитектурой». Компании, которые первыми внедрят интеллектуальную маршрутизацию и агрессивное кэширование, получат колоссальное конкурентное преимущество, оставляя конкурентов сжигать бюджеты на бессмысленные вычислительные мощности.