Внутри Claude обнаружено «глобальное рабочее пространство» — J-space, которого не закладывали инженеры
Исследователи из Anthropic сделали неожиданное открытие: внутри языковой модели Claude сформировалась внутренняя структура, которая не была запрограммирована разработчиками. Этот механизм, названный J-space, функционирует как единое рабочее пространство, к которому обращаются различные компоненты модели во время выполнения задач.
Открытие, обнародованное 6 июля, знаменует собой важный шаг в понимании того, что на самом деле происходит «под капотом» больших языковых моделей. J-space можно представить как виртуальную «доску», где собирается и обрабатывается ключевая информация. Когда Claude отвечает на вопрос или решает задачу, критически важные данные появляются в этом пространстве, чтобы разные части модели могли с ними взаимодействовать.
Как работает J-space и почему это важно?
Для обнаружения J-space был разработан специальный инструмент — J-lens. С его помощью исследователи наблюдали, как информация перемещается внутри модели в режиме реального времени. Поразительно, но J-space возник спонтанно в процессе обучения — инженеры не закладывали его в архитектуру напрямую.
По своему функционалу J-space напоминает то, что в нейронауке называют «глобальным рабочим пространством». У человека эта система обеспечивает одновременный доступ к важной информации для нескольких мыслительных процессов. Например, когда мы слышим вопрос, вспоминаем факт и формулируем ответ — мозг сводит все данные в одну точку.
Исследователи показали, что Claude может не только описывать содержимое J-space по запросу, но и изменять его. Более того, ручное вмешательство в J-space напрямую влияло на ответы модели и её поведение при выполнении заданий.
Безопасность, интерпретируемость и будущее ИИ
Это открытие имеет огромное значение для безопасности искусственного интеллекта. Возможность отслеживать активность J-space открывает путь к выявлению скрытых мотивов в поведении моделей. Мы сможем эффективнее замечать моменты, когда система начинает работать ненадёжно.
Особенно перспективно это в контексте защиты от атак. Мониторинг J-space позволяет увидеть, когда модель сталкивается с попытками prompt-injection — внедрения вредоносных инструкций для перехвата управления ответом. Даже частичный доступ к этому «осознанному» слою обработки открывает важные перспективы для исследований.
Пока возможности ограничены: большая часть обработки информации у Claude по-прежнему идёт вне J-space. Тем не менее, Anthropic уже опубликовала исходный код реализации J-lens и выложила демоверсию на Neuronpedia, предложив научному сообществу проверить результаты на практике.
Важная оговорка: компания подчёркивает, что не заявляет о наличии у Claude сознания или субъективного опыта. В работе используется термин «сознательно доступная» информация, заимствованный из когнитивной науки, — он не означает наличия настоящего сознания.
Мнение эксперта: Это открытие — ещё один аргумент в пользу того, что мы всё ещё очень плохо понимаем, как работают современные нейросети. Спонтанное возникновение J-space напоминает эмерджентные свойства сложных систем. Для рынка криптовалют и DeFi, где ИИ всё чаще используется для анализа и торговли, это означает одно: полагаться на «чёрный ящик» без глубокого понимания его внутренних механизмов — рискованная стратегия.