Администрация Белого дома ввела экспортные ограничения в отношении моделей Anthropic, и ключевым триггером стали опасения по поводу возможного доступа к модели Mythos со стороны группы, связанной с Китаем. Этот инцидент, как и сообщения о попытках обхода защиты модели Fable 5, легли в основу решения властей.
Двойной триггер: Китай и обход защиты
Согласно имеющейся информации, подозрения в доступе к Mythos со стороны китайской группы стали одним из главных факторов, побудивших администрацию Дональда Трампа к действиям. При этом точная организация, способ получения доступа и источник информации для Белого дома остаются нераскрытыми. Вторым триггером послужили данные о том, что CEO Amazon Энди Джесси 11 июня проинформировал администрацию о возможности обхода ограничений Fable 5, отвечая на запрос о проверке модели.
Министр торговли США Говард Латник направил главе Anthropic Дарио Амодеи письмо, согласно которому Fable 5 и Mythos 5 подпадали под экспортный контроль за пределами США и для всех иностранных лиц внутри страны. Чиновники пытались убедить компанию добровольно приостановить доступ, но Anthropic отказалась. По словам близкого к стартапу источника, Белый дом дал компании всего 90 минут на отключение моделей, не предоставив подробностей о характере угрозы.
Советник главы Белого дома Дэвид Сакс заявил, что администрация получила предупреждение от партнера, которому доверяли и власти, и Anthropic. Он отметил, что «мяч на стороне Anthropic» и что экспортный контроль будет снят после устранения проблемы безопасности.
Позиция Anthropic: «Недоразумение»
Anthropic категорически отрицает обвинения. Компания утверждает, что письмо властей не содержало конкретных деталей о рисках для национальной безопасности, а претензии касались лишь способа обхода защиты Fable 5. Стартап изучил демонстрацию этой техники и пришел к выводу, что она позволяет найти лишь «небольшое число ранее известных незначительных уязвимостей». Более того, другие публично доступные модели способны выявлять те же проблемы без обхода защиты.
Перед запуском Fable 5 компания потратила «тысячи часов» на тестирование защит совместно с правительством США, британским Институтом безопасности ИИ и сторонними организациями. Тестировщики не нашли универсального способа массово обходить ограничения модели. Anthropic считает произошедшее «недоразумением» и работает над восстановлением доступа.
Напомню, что 9 июня Anthropic представила Fable 5 — модель класса Mythos для общего доступа, и Mythos 5 — модель с ослабленными ограничениями для киберзащитников в рамках Project Glasswing. Ранее, 2 июня, компания объявила о расширении проекта примерно на 150 организаций из более чем 15 стран, которые уже нашли свыше 10 000 уязвимостей высокой и критической степени.
Мнение эксперта: Ситуация вокруг Anthropic — классический пример того, как политические риски и вопросы национальной безопасности начинают доминировать над технологическим прогрессом. Даже если обвинения в «китайском доступе» преувеличены, сам факт столь жесткой реакции властей сигнализирует о новой эре регулирования ИИ, где экспортный контроль станет инструментом геополитического давления. Инвесторам стоит учитывать, что подобные инциденты будут усиливать волатильность в секторе, как мы уже видели на примере роста токенов Venice и Morpheus на 14% и 21% соответственно после введения ограничений.