Анализ J-Space: как работает скрытое пространство концептов внутри LLM | Открытие 2026 года

АНАЛИЗ СКРЫТОГО ПРОСТРАНСТВА КОНЦЕПТОВ В LLM. Разбираем исследование Anthropic о феномене J-Space (якобиан-пространство) — аналоге человеческого глобального рабочего пространства в архитектуре современных языковых моделей. В этом материале я показываю, как нейросети формируют промежуточные концепты во время инференса и как инженеры могут вмешиваться в этот процесс. Мы рассмотрим отличия этого механизма от разреженных автокодировщиков Google и протестируем инструмент Jacobian Lens на моделях с открытым исходным кодом. Ключевые этапы разбора: - Концепция скрытого мышления: как LLM выносят базовые понятия на внутреннюю сцену. - Разница подходов: органичный J-Space против математического разделения автокодировщиками. - Практические эксперименты: подмена токенов на лету (замена паука на муравья меняет логику расчета конечностей). - Механика Directed Modulation: принудительное управление весами концептов (Steer) в процессе генерации текста. - Безопасность и оценка галлюцинаций: отслеживание попыток обмана модели через анализ активаций скрытых терминов, таких как myth и misconception. Этот подход позволяет анализировать реальные намерения модели до завершения генерации ответа, что открывает новые инструменты для специалистов по AI-безопасности. ✅ Ссылки: https://transformer-circuits.pub/2026/workspace/#ws-report https://www.anthropic.com/research/global-workspace https://www.neuronpedia.org/qwen3.6-27b/jlens https://github.com/anthropics/jacobian-lens https://huggingface.co/neuronpedia/jacobian-lens 🔗 Наш сайт: https://atdigit.tech/ ✅ Сообщество: 💬 Discord: https://bit.ly/ATDIGITDISCORD ▶️ Канал: http://bit.ly/ytatdigit 🤝 Партнёрка: https://www.youtube.com/atdigit/join