Корпоративный мир столкнулся с парадоксом: повальное внедрение ИИ-агентов не привело к ожидаемому росту продуктивности, а породило новый класс управленческих и финансовых проблем. Основатель стартапа Hebbia Джордж Сивулка в своем эссе для рассылки a16z диагностирует системную ошибку — компании бросились разворачивать агентов без адекватной инфраструктуры контроля, и теперь пожинают плоды этой спешки.

Ключевая проблема, по его мнению, кроется в практике «tokenmaxxing» — погоне за количеством потребляемых токенов как за главным показателем активности. Организации ошибочно приняли взрывной рост расходов на ИИ за признак эффективного внедрения. Сивулка формулирует это жёстко: «Вы только что наняли миллион плохих сотрудников». И это не метафора. Агенты не столько снизили затраты на труд, сколько изменили их структуру, причём в худшую сторону. Впервые в истории, как отмечает эксперт, люди оказались дешевле программного обеспечения.

Управленческий кризис, а не технологический

Анализ Сивулки показывает, что сбои в работе ИИ-агентов часто связаны не с несовершенством моделей, а с неспособностью компаний формулировать чёткие задачи. Лишь «примерно один из 100 сотрудников» способен дать агенту достаточно контекста для качественной работы. Результат — «петли»: агенты бесконечно корректируют свои действия, перерасходуя токены без соразмерного результата. Это, по сути, «расход токенов на расход токенов». Мы наблюдаем не технологический, а глубокий управленческий кризис.

Финансовые последствия оказались шокирующими. По данным UBS Global Research, практически все топ-менеджеры ИИ-компаний на закрытых мероприятиях признают проблему контроля расходов. Один из примеров — расходы на Anthropic у неназванной фирмы выросли с $20 000 в декабре до почти $1 млн в июле. Другой случай, упомянутый в отраслевых источниках, — компания, запустившая ИИ-инструменты без лимитов, получила счёт на $500 млн от Claude за один месяц. UBS оценивает, что примерно 60% организаций уже серьёзно обеспокоены неконтролируемыми расходами на токены.

Новая управленческая инфраструктура как необходимость

Решение, по мнению Сивулки, лежит не в отказе от ИИ, а в создании управленческой инфраструктуры: чёткое описание процессов, оценка качества результатов, контроль затрат и, что особенно важно, распределение задач между моделями разной стоимости. Речь идёт о model routing — когда простые операции передаются дешёвым моделям, а дорогие передовые используются только для критически важных сценариев.

Однако есть и скрытая угроза. Сотрудники, осознавая, что их знания — ключевой ресурс для обучения ИИ, могут начать саботировать процесс. Люди не захотят передавать системам то, что делает их незаменимыми. Без доверия и прозрачных правил работники не будут помогать тем, кто может их заменить. Это превращает внедрение ИИ из технологической задачи в сложнейшую социальную и управленческую проблему, которую пока никто не решил.