Корпорация Nvidia провела технический эксперимент, который демонстрирует, как автономные ИИ-агенты могут кардинально ускорить процесс дообучения больших языковых моделей. Речь идет о модели Cosmos 3 Nano, предназначенной для анализа дорожных сцен. Результаты впечатляют: точность ответов на тесте с четырьмя вариантами выбора взлетела с 54,41% до 93,35% — и все это менее чем за 24 часа.

Ключевым исполнителем стал ИИ-агент Codex, который действовал в рамках инструментария TAO от Nvidia. Агент не просто запускал скрипты, а самостоятельно принимал решения: выбрал специализированную инструкцию Cosmos-reason, проверил аннотации датасета Woven Traffic Safety от Woven by Toyota, обнаружил отсутствующий параметр частоты кадров, исправил конфигурацию и запустил обучающий контейнер.

На начальном этапе базовая модель без адаптации показала лишь 54,41% правильных ответов. Codex применил метод низкоранговой адаптации (LoRA). В отличие от полного дообучения, LoRA обучает только небольшие дополнительные адаптеры, не затрагивая все параметры модели. По расчетам Nvidia, такой подход потребовал примерно в семь раз меньше GPU-часов, чем полный цикл обучения.

Первый прогон LoRA на восьми ускорителях NVIDIA A100 с 80 ГБ памяти занял около 30 минут и поднял точность до 87,14%. Затем разработчики дали команду на запуск TAO AutoML для подбора гиперпараметров: скорости обучения, размера пакета и параметров LoRA. Система провела 43 параллельных испытания с байесовской оптимизацией. Лучший результат составил 93,35%, а сам этап занял 19,5 часа на нескольких узлах A100 в Oracle Cloud Infrastructure.

Важно подчеркнуть, что Codex в этом эксперименте не был полностью автономным — он действовал по заранее подготовленным инструкциям. Однако он самостоятельно выбирал рабочий процесс, проверял данные, исправлял конфигурацию и сравнивал метрики. Это уже серьезный шаг к автоматизации сложных ML-пайплайнов.

Стоит сделать важную оговорку: показатель 93,35% отражает точность на проверочной части одного исследовательского датасета. Он не измеряет безопасность автономного вождения и не подтверждает способность модели принимать решения в реальном времени. Тем не менее, сам факт того, что ИИ-агент смог так быстро и эффективно адаптировать модель под специфическую задачу, открывает новые горизонты для ускорения R&D в области искусственного интеллекта.

Мнение эксперта: Данный эксперимент — яркая демонстрация того, как ИИ-агенты могут трансформировать сам процесс разработки ИИ. Если раньше дообучение модели под конкретный датасет требовало дней ручной работы инженеров, то теперь эту задачу можно делегировать автономному агенту. В долгосрочной перспективе это приведет к удешевлению и демократизации доступа к тонкой настройке больших моделей, что особенно критично для таких нишевых и требовательных областей, как безопасность дорожного движения или медицинская диагностика.