В рамках технического эксперимента Nvidia продемонстрировала впечатляющий результат: точность модели Cosmos 3 Nano на тесте с четырьмя вариантами ответа выросла с 54,41% до 93,35% менее чем за 24 часа. Ключевой особенностью стало то, что все этапы дообучения были выполнены ИИ-агентом Codex, действовавшим по заранее заданным инструкциям в экосистеме инструментов TAO.
Эксперимент проводился на специализированном датасете Woven Traffic Safety от Woven by Toyota, который содержит видеозаписи дорожных ситуаций и вопросы с четырьмя вариантами ответа. Для обучения и валидации использовалось более 8000 примеров.
Без дополнительной адаптации модель Cosmos 3 Nano демонстрировала лишь 54,41% правильных ответов. Разработчики поручили агенту Codex оценить базовую производительность и провести тонкую настройку с использованием метода низкоранговой адаптации (LoRA). Агент самостоятельно выбрал подходящую инструкцию Cosmos-reason, проанализировал аннотации датасета и выявил отсутствующий параметр частоты кадров. После исправления конфигурации он загрузил веса модели, подготовил настройки и запустил обучающий контейнер.
Метод LoRA, в отличие от полного дообучения, изменяет не все параметры модели, а обучает небольшие дополнительные адаптеры. По расчетам Nvidia, этот подход потребовал примерно в семь раз меньше GPU-часов, чем полная настройка Cosmos 3 Nano. Один прогон LoRA на восьми ускорителях NVIDIA A100 с 80 ГБ памяти занял около 30 минут, повысив точность до 87,14%.
На втором этапе разработчики запустили TAO AutoML для автоматического подбора гиперпараметров: скорости обучения, размера пакета и параметров LoRA. Система провела 43 параллельных испытания, и лучший результат с байесовской оптимизацией достиг 93,35%. Этот этап занял 19,5 часа на нескольких узлах A100 в Oracle Cloud Infrastructure.
Важно подчеркнуть, что агент Codex не просто анализировал результаты — он выбирал рабочий процесс, проверял данные, исправлял конфигурации, запускал контейнеры и сравнивал метрики. Хотя его автономность была ограничена заранее подготовленными инструкциями, такой уровень автоматизации открывает новые горизонты для масштабирования тонкой настройки ИИ-моделей.
Однако стоит отметить, что показатель 93,35% отражает точность на проверочной части одного исследовательского датасета. Он не является мерой безопасности автономного вождения и не подтверждает способность модели принимать решения в реальном времени. Это лишь демонстрация эффективности автоматизированного подхода к дообучению.
Ранее исследователи Nvidia, Carnegie Mellon University и Калифорнийского университета в Беркли представили фреймворк ENPIRE, который позволяет ИИ-агентам для программирования улучшать политики управления роботами на реальном оборудовании.
Аналитический комментарий: Этот эксперимент — важный шаг к демократизации тонкой настройки крупных моделей. Автоматизация процессов, которые ранее требовали глубоких знаний и ручного труда инженеров, может значительно ускорить внедрение ИИ в специализированные области, такие как автономное вождение. Однако ключевым вызовом остается обобщаемость таких результатов на реальные, неконтролируемые сценарии.