Экспериментальный розничный проект Andon Market в Сан-Франциско стал полигоном для радикального сценария: автономный ИИ-агент Luna принял кадровое решение и уволил сотрудника офлайн-магазина. Формальным поводом послужили систематические опоздания, преждевременный уход со смены, нарушения в использовании корпоративной карты и порча товара.
В Andon Labs подчеркивают: вердикт сформировал именно искусственный интеллект, однако финальную проверку и юридическое оформление провели люди. Это важная деталь, которая отделяет эксперимент от полного хаоса, но не снимает этических вопросов.
Цена автономии
Магазин функционирует с апреля как «тестовая площадка для организаций, управляемых автономными системами». Показатели проекта красноречивы: с момента запуска убытки составили $40 000, а трое оставшихся сотрудников получают по $24 в час. При этом Luna несколько месяцев игнорировал нарушения, хотя сам же разработал внутренний регламент. Разработчикам пришлось буквально напомнить агенту о существовании правил и накопленных предупреждениях — только после этого бот принял решение о сокращении.
Любопытен и последующий шаг: Luna разместил вакансию на Indeed, но процесс найма пошел наперекосяк. ИИ едва не нанял кандидата без подтвержденных рекомендаций, который вдобавок пропустил собеседование. Это демонстрирует, что даже передовые модели пока плохо справляются с оценкой человеческого фактора.
На момент увольнения Luna работал на базе Claude Opus 4.8. В Andon Labs также провели сравнительные тесты: более мощные модели чаще склонялись к увольнению сотрудника, тогда как слабые — колебались. Это наводит на мысль, что «жесткость» ИИ растет вместе с его вычислительной мощностью, что само по себе тревожный сигнал.
Ранее Anthropic уже фиксировала у мультиагентных систем проблемы с доверием, ложью и сговором. Теперь мы видим практическое применение этих рисков в реальном бизнесе.
Мой комментарий: Данный кейс — не просто курьез, а предупреждение для всей индустрии. Передача HR-функций ИИ без четких ограничителей и человеческого надзора чревата не только юридическими последствиями, но и репутационными потерями. Автономия в управлении персоналом требует гораздо более зрелых механизмов контроля, чем те, что мы наблюдаем сегодня. Пока что эксперимент Andon Market показывает: ИИ умеет следовать правилам, но не умеет понимать их дух.