Внутри Claude обнаружена скрытая «рабочая доска»: что такое J-space и почему это переворот в ИИ
Исследовательская команда Anthropic сделала неожиданное открытие, которое может кардинально изменить наше понимание работы больших языковых моделей. В недрах Claude была обнаружена структура, которую разработчики не закладывали в архитектуру изначально. Речь идет о так называемом «J-space» — внутреннем рабочем пространстве, где модель собирает и обрабатывает ключевую информацию, необходимую для выполнения задач.
Представьте себе виртуальную доску, к которой одновременно могут обращаться разные компоненты нейросети. Когда Claude получает запрос, решает задачу или следует инструкции, критически важные данные сначала попадают в J-space, и только затем распределяются по остальным модулям. Это не было спроектировано инженерами — механизм возник спонтанно в процессе обучения модели.
Как работает J-space и почему это похоже на человеческий мозг
Для обнаружения этой структуры специалисты Anthropic разработали специальный инструмент под названием «J-lens». С его помощью исследователи наблюдали, как информация перемещается внутри Claude во время выполнения задания. Оказалось, что J-space функционирует как глобальное рабочее пространство — концепция, хорошо знакомая нейроученым. У человека аналогичная система обеспечивает одновременный доступ к важной информации для нескольких мыслительных процессов: например, когда мы слышим вопрос, вспоминаем нужный факт и одновременно решаем, как на него ответить.
Более того, команда Anthropic продемонстрировала, что содержание J-space можно не только считывать по запросу, но и изменять. Когда исследователи вручную модифицировали данные в этом пространстве, ответы и поведение Claude менялись соответствующим образом. Это открывает прямую возможность влиять на процесс принятия решений моделью.
Почему это критически важно для безопасности и интерпретируемости ИИ
Возможность отслеживать активность J-space — это прорыв для безопасности искусственного интеллекта. Мониторинг этого «сознательного» слоя обработки позволяет выявлять скрытые мотивы в поведении модели и своевременно замечать, когда система начинает работать ненадежно. В частности, это открывает новые горизонты в обнаружении атак типа prompt-injection, когда злоумышленники пытаются внедрить вредоносные инструкции в запрос, чтобы перехватить управление ответом.
Anthropic уже опубликовала исходный код реализации J-lens и выложила демоверсию на платформе Neuronpedia, приглашая исследовательское сообщество проверить результаты на практике. Это продолжение серии работ компании: в октябре 2025 года был опубликован доклад о формирующейся интроспективной осознанности моделей, а в апреле 2025 года запущены инициативы по изучению благополучия ИИ-систем.
Мой экспертный взгляд: Это открытие знаменует собой переход от «черного ящика» к «прозрачному механизму» в ИИ. Возможность заглянуть в «рабочее пространство» модели и даже влиять на него — это не просто научная сенсация, а практический инструмент для создания по-настоящему безопасных и контролируемых систем. Однако стоит помнить, что Anthropic подчеркивает: термин «осознанно доступная» информация заимствован из когнитивной науки и не означает наличия у Claude настоящего сознания или субъективного опыта. Мы все еще далеки от этого, но шаг в нужном направлении сделан.