Новости криптомира

Anthropic выявила масштабную кампанию по несанкционированной дистилляции своей флагманской модели Claude. По данным компании, операторы, связанные с китайской Alibaba и её ИИ-лабораторией Qwen, организовали атаку, которая стала крупнейшей из известных в индустрии.

С 22 апреля по 5 июня злоумышленники использовали почти 25 000 фиктивных аккаунтов для генерации более 28,8 миллионов запросов к Claude. Целью было извлечение ключевых возможностей модели в области агентных задач, разработки программного обеспечения и долгосрочного планирования.

В письме, направленном председателю банковского комитета Сената США Тиму Скотту и сенатору Элизабет Уоррен, Anthropic подчеркнула «наглую природу» атаки. Alibaba, будучи публичной компанией, зарегистрированной на Нью-Йоркской фондовой бирже, ведёт бизнес в США и подотчётна американским инвесторам и регуляторам. Это делает ситуацию особенно чувствительной.

Сама по себе дистилляция — распространённая практика, позволяющая создавать более компактные и дешёвые версии моделей. Однако проблема возникает, когда конкуренты используют фиктивные аккаунты для обхода ограничений и обучения собственных систем за счёт чужого интеллектуального труда и инвестиций.

Anthropic подчёркивает, что такие действия подрывают экономическую модель, на которой держится лидерство США в ИИ. Китайские лаборатории получают доступ к передовым возможностям, не неся затрат на обучение, которые исчисляются миллиардами долларов. Более того, компания предупреждает, что дистиллированные модели могут быть использованы для киберопераций, военных задач и разведки.

Что требует Anthropic от Конгресса

Компания призывает к расширению обмена техническими индикаторами между разработчиками ИИ и правительством США. Также предлагается уточнить антимонопольное законодательство, чтобы фирмы могли делиться информацией об атаках без риска нарушения законов о конкуренции.

Отдельный блок предложений касается экспортного контроля. Anthropic настаивает на ужесточении ограничений на поставки передовых ИИ-чипов и вычислительных ресурсов, а также на закрытии лазеек, позволяющих китайским организациям получать доступ к зарубежным дата-центрам. Компания предлагает ввести санкции против виновных в масштабном извлечении возможностей моделей.

Контекст и прецеденты

Это не первый случай, когда Anthropic сталкивается с подобными атаками. Ранее компания обвиняла DeepSeek, Moonshot AI и MiniMax в генерации более 16 миллионов взаимодействий с Claude. Тогда кампании были связаны с конкретными лабораториями по IP-адресам и метаданным.

Примечательно, что дистилляция остаётся спорной темой. Сам Илон Маск признавал, что xAI «частично» использовала модели OpenAI при обучении Grok. Однако в случае с китайскими лабораториями речь идёт о систематическом и масштабном извлечении данных через фиктивные аккаунты, что выходит за рамки обычной отраслевой практики.

Мнение эксперта: Данный инцидент — тревожный сигнал для всей индустрии. Он демонстрирует, что геополитическая конкуренция в сфере ИИ переходит в новую фазу, где интеллектуальная собственность и доступ к вычислительным ресурсам становятся объектами целенаправленных атак. Ужесточение экспортного контроля и законодательства — лишь часть решения. Без глобального диалога о стандартах дистилляции и защиты моделей мы рискуем столкнуться с эскалацией «холодной войны» в сфере искусственного интеллекта.