Новости криптомира

Исследовательская группа Anthropic совершила прорыв в понимании внутренней работы больших языковых моделей. В ходе анализа архитектуры Claude была обнаружена структура, которую разработчики изначально не закладывали в проект. Этот внутренний механизм, названный «J-space», функционирует как общее рабочее пространство, к которому обращаются различные компоненты модели.

Что такое J-space и как он работает?

J-space — это виртуальная «доска», где Claude собирает и передает ключевую информацию между своими модулями. Когда модель отвечает на вопрос или выполняет инструкцию, критически важные данные появляются в этом пространстве, чтобы разные части нейросети могли с ними взаимодействовать. По сути, это аналог того, что в когнитивной науке называют «глобальным рабочим пространством» — концепции, описывающей, как человеческий мозг сводит воедино данные из разных сенсорных и мыслительных процессов.

Обнаружить J-space удалось с помощью специального инструмента «J-lens», который позволил исследователям в реальном времени наблюдать за перемещением информации внутри модели. Удивительно, но эта структура возникла спонтанно в процессе обучения Claude — она не была запрограммирована инженерами напрямую. Более того, эксперименты показали, что при ручном изменении содержимого J-space меняются и ответы модели, и ее поведение при выполнении задач.

Почему это критически важно для безопасности ИИ?

Открытие имеет огромное значение для безопасности и интерпретируемости искусственного интеллекта. Возможность отслеживать активность J-space открывает путь к выявлению скрытых мотивов в поведении модели. Мы получаем инструмент для обнаружения атак типа prompt-injection — когда вредоносные инструкции внедряются в запрос, чтобы перехватить управление ответом.

Кроме того, частичный доступ к этому «осознанному» слою обработки информации создает новые перспективы для исследований. Anthropic подчеркивает, что термин «осознанно доступная информация» заимствован из когнитивной науки и не означает наличия у Claude сознания или субъективного опыта. Однако сам факт, что мы можем заглянуть в «черный ящик» нейросети и увидеть, как она обрабатывает запросы, — это гигантский шаг вперед.

Компания уже опубликовала исходный код реализации J-lens и выложила демо-версию на платформе Neuronpedia, предложив научному сообществу проверить результаты на практике. Это исследование опирается на серию более ранних работ Anthropic, включая доклад об формирующейся интроспективной осознанности (октябрь 2025) и инициативы по изучению благополучия моделей (апрель 2025).

Мнение эксперта: Обнаружение J-space — это не просто академический курьез. Для рынка криптовалют и DeFi, где ИИ-агенты все чаще используются для анализа данных и автоматизации торговли, возможность «заглянуть под капот» модели означает новый уровень контроля и безопасности. Если мы сможем отслеживать, как ИИ принимает решения, мы сможем предотвращать манипуляции и ошибки, которые могут стоить миллионы долларов. Это открытие делает Claude не только более мощным, но и более прозрачным инструментом.