Администрация Дональда Трампа ввела экспортные ограничения на модели искусственного интеллекта Anthropic — Fable 5 и Mythos 5 — после получения данных о возможном доступе к Mythos со стороны группы, связанной с Китаем. Этот инцидент стал ключевым триггером для Белого дома, хотя официальные лица публично не подтверждали данную версию.

Параллельно всплыли сообщения об обходе защитных механизмов Fable 5, что также послужило основанием для ограничений. Сама Anthropic настаивает, что речь шла о «узком» и неуниверсальном способе, не дающем модели уникальных возможностей. Компания отрицает, что в переговорах с властями поднималась тема «китайского доступа» к Mythos, и подчеркивает, что запрещает доступ к своим продуктам из КНР.

События, предшествовавшие ограничениям

11 июня CEO Amazon Энди Джесси сообщил администрации президента о возможности обхода защиты Fable 5 в ответ на запрос о проверке модели. Министр торговли США Говард Латник направил главе Anthropic Дарио Амодеи письмо, согласно которому Fable 5 и Mythos 5 подпадали под экспортный контроль за пределами США и для всех иностранных лиц внутри страны. По данным источников, чиновники пытались убедить Anthropic добровольно приостановить доступ, но компания отказалась. Собеседники, близкие к стартапу, утверждают, что Белый дом дал всего 90 минут на отключение моделей без объяснения характера угрозы.

13 июня советник главы Белого дома Дэвид Сакс заявил, что администрация получила предупреждение о возможном обходе защит Fable 5 от партнера, которому доверяли и власти, и Anthropic. «Администрация надеется, что Anthropic устранит проблему безопасности, экспортный контроль будет снят, а Fable вернется в общий доступ. Мяч на стороне Anthropic», — написал Сакс.

Позиция Anthropic

Anthropic заявляет, что письмо властей не содержало конкретных деталей о рисках для национальной безопасности. Компания изучила демонстрацию техники обхода защиты Fable 5 и пришла к выводу, что она позволяет найти «небольшое число ранее известных незначительных уязвимостей». В Anthropic добавляют, что другие публично доступные модели способны выявлять те же проблемы без обхода защиты.

Перед запуском Fable 5 компания потратила «тысячи часов» на тестирование защит совместно с правительством США, британским Институтом безопасности ИИ и сторонними организациями. Тестировщики пока не нашли универсальный способ массово обходить ограничения модели. «Мы считаем это недоразумением и работаем над восстановлением доступа как можно скорее», — заявили в Anthropic.

Контекст и последствия

9 июня Anthropic представила Fable 5 и Mythos 5. Fable 5 — модель класса Mythos для общего доступа, а Mythos 5 использует ту же базовую модель, но с ослабленными ограничениями в отдельных областях, предназначенная для киберзащитников и поставщиков критической инфраструктуры в рамках Project Glasswing. 2 июня компания объявила о расширении Project Glasswing примерно на 150 организаций из более чем 15 стран, которые нашли свыше 10 000 уязвимостей высокой и критической степени.

После введения экспортных ограничений токены децентрализованных ИИ-проектов Venice и Morpheus выросли на 14% и 21% соответственно, что демонстрирует реакцию рынка на ужесточение контроля над централизованными AI-моделями.

Мой комментарий: Этот инцидент подчеркивает растущую напряженность между национальной безопасностью и открытостью AI-разработок. Ограничения, введенные без четких доказательств, могут затормозить инновации и усилить фрагментацию глобального рынка AI. Рост токенов децентрализованных проектов — сигнал того, что инвесторы видят в них альтернативу, менее подверженную политическому давлению.