Anthropic 研究团队在 2026 年 7 月发表论文《A global workspace in language models》，称通过名为 J 透镜的工具，在 Claude 内部识别出一个可被观测、可被干预且具有因果效力的神经活动区域——J-Space。围绕这一研究，MarsBit 刊发了一篇来自微信公众号“新智元”、署名“ASI启示录”的长文，讨论大语言模型可解释性的路径之争，并将争论焦点从“拆开模型内部”转向“模型处理的信息究竟是什么”。
J-Space 被视作对模型内部状态的直接观测
文章写道，这项研究之所以引发广泛关注，在于研究者得以窥见模型推理过程中的“内心独白”，使可解释性研究从解释模型外部行为，推进到对其内部状态的实时观测。
J-Space 的解释框架借用了认知神经科学中的全局工作空间理论，把语言模型的推理活动类比为人类意识层面的信息处理。按照文中说法，这一方法在方法论和认识论两个层面都构成推进，也为 AI 安全提供了新的监控维度。
不过，文章紧接着提出，这一路径的根本取向仍是内在主义：它把可解释性的核心问题设定为“理解模型内部发生了什么”，试图像神经科学家使用 fMRI 扫描人脑那样，用 J-lens 扫描语言模型的神经活动。
作者认为，这种做法预设了解释的答案藏在模型“体内”。但一个模型输出能否被理解，不只取决于内部状态能否被看到，也取决于这些状态与世界中的事态、语义规范以及用户认知框架之间的关系。文中把这一点比喻为：只观察神经活动来理解模型话语，就像只观察一个人的脑电活动来理解他说的话，或许能捕捉到神经关联，却还没有触及意义本身。
文章提出三重局限：内在主义、范畴错置与“解释”窄化
在文章看来，J-Space 研究的第一个问题，是把模型本身设为解释的起点和终点。第二个问题出在理论移植。J-Space 借用全局工作空间理论来说明语言模型，但在移植过程中，功能层面的同构性被等同为认识论层面的等价性。
作者指出，模型并不具备主观经验，J-Space 中的激活模式只是数学运算的产物，而不是任何意义上的心灵状态。也就是说，即便模型在功能表现上与某些认知结构相似，也不能据此把它与意识层面的解释地位等同起来。
第三个问题更偏向知识论。文章认为，J-Space 本质上是一项工程导向工作，它把“可解释性”缩窄成“可观测性”和“可干预性”。但在更广泛的知识论传统里，“解释”还包括把现象纳入更一般的规律框架、给出理由和依据，以及论证决策的正当性。
按文中表述，J-Space 也许能够告诉研究者模型“在想什么”，却回答不了模型为什么会以这种方式思考，它所依据的“理由”是什么，以及这些理由在何种意义上属于“好的”理由。这些答案并不包含在神经活动模式里。
因此，文章把症结总结为：无论是 J-Space，还是更大范围内以神经网络为焦点的可解释性研究，始终把“模型本身”视为唯一解释对象，问题的起点和终点都没有离开模型。
从模型内部转向信息本体论
在此基础上，文章提出另一种视角：把可解释性的追问从模型内部，转向模型所处理的信息；把神经科学式的内部主义路径，转向知识论意义上的“信息本体论”路径。
这一转换建立在一个简单判断上：大型语言模型本质上是信息处理器，输入和输出都是文本；而文本的意义，也就是人们真正需要解释的内容，并不存放在神经元激活值里，而存在于符号与世界、与知识、与人类实践之间的关系中。
文章以一句常识性陈述举例：当模型回答“巴黎是法国的首都”时，需要解释的不只是模型内部哪个区域被激活，还包括这个陈述在什么知识体系中成立、依据是什么、这些依据的可靠性与正当性如何，以及这个回答与人类既有地理知识之间是什么关系。文中认为，这些问题无法通过扫描神经活动获得答案。
由此，作者主张把可解释性的核心，从“模型如何思考”转向“模型处理了什么样的信息、这些信息具有怎样的本体论地位”，并把解释对象从模型本身扩展到模型嵌入其中的整个信息生态，包括：
- 训练数据的结构；
- 知识的表征方式；
- 推理过程中的信息流转；
- 输出与外部知识体系的映射关系。
文章将这概括为对现有解释研究的一次视角转换：J-Space 让研究者看到“模型内部发生了什么”，但其内在主义取向、对功能类比的依赖以及工程化视角对“解释”概念的窄化，共同构成认识论上的三重局限。若要继续推进大语言模型可解释性，文章认为需要从知识论角度，系统考察模型所处理信息的来源、结构、表征方式、流转路径及其与外部知识体系的关系。
康德范畴被引入为“可理解性”的哲学地基
为了论证这一点，文章把讨论继续推进到哲学层面，并援引康德《纯粹理性批判》中的范畴理论。文中提出一个古老问题：人类究竟如何理解世界？康德给出的回答是，人类心灵并不是被动接受外界刺激，而是先天地具备十二种“纯粹知性概念”，也就是“十二范畴”，作为认知的形式框架。
按照文章梳理，这十二范畴来自人类逻辑判断的十二种形式，可分为量、质、关系和模态四组：量对应“多少”，质对应“是什么样”，关系涉及事物之间的联系，模态涉及存在的方式。
文章据此认为，康德的范畴理论本质上是一种关于“可理解性”的本体论承诺。只有能被纳入这些范畴框架之下的对象，才可能成为知识对象；超出框架的“物自体”则始终不可知。对应到 AI 可解释性，真正可以被解释的，不是内部神经元的物理激活，而是信息被范畴化、被结构化为可理解知识的过程。
文中进一步区分说，神经激活属于“物自体”层面，模型输出的话语意义则属于“现象界”层面，只有被放入某种认知结构框架中，才谈得上理解和评判。
基于这一判断，文章把“本体”称作 AI 可解释性的“钥匙”。其理由分成两个层面：
- 在分析层面，本体提供一套概念框架，用来描述模型处理信息时形成的结构化形态。研究者可以追问，一个陈述里是否隐含“实体与偶性”的归属、“因果性”的判断，或者“模态”的承诺。
- 在规范层面，本体给出可解释性的评判标准。若模型内部表征形成了与本体相对应的结构化模式，其输出就具备被理解的基础；若始终无法映射到这些本体上，无论语言多么流畅，在认识论意义上都仍然不可解释。
文章同时强调，以康德范畴作为解释钥匙，并不意味着模型必须“拥有”这些范畴。康德范畴属于主体的先天认知条件，而模型面对的是功能实现问题。模型可以通过不同的神经计算路径，在功能上等价地区分实体性、因果性或模态差异。关键不在于把每一个权重都解释清楚，而在于确认模型在信息处理层面形成的结构，能否映射到人类理解世界所依赖的范畴框架之上。
本体工程被视作连接理论与系统的桥梁
在哲学讨论之后，文章把重点落到工程实践。文中称，本体论回答的是“可理解的结构应当是什么样”，但这一回答不会自动变成可运行的技术系统；如果没有本体工程的支撑，本体论仍然只是停留在概念层面的讨论。
文章将本体工程定义为：把哲学范畴实例化为可计算、可维护、可追溯技术实体的实践领域。对应到 AI 可解释性，本体论决定人们应当追问何种知识结构，本体工程则负责在模型、数据与系统之间把这种结构真正搭起来。
在文章看来，大语言模型的出现既给本体工程提供了新的发展动能，也带来新的工程挑战。传统本体构建高度依赖领域专家人工参与，流程长、成本高，知识更新和领域演进一快，维护难度就会同步上升。
大语言模型依靠从海量文本里提取语义模式和知识关联的能力，正在重塑本体工程的实践形态。文章列举的核心任务包括类定义、关系抽取和属性构建，并称语言模型在这些本体学习任务中可以以远高于人工的效率，完成大规模知识的结构化提取。
作者还写道，语言模型在识别概念之间的层级关系、同义关系和关联关系方面展现出较强的语义敏感度，使本体构建从“专家手工编制”推进到“人机协作生产”，再走向“自动生成式构建”。这一变化的意义，不只体现在效率上，也体现为本体构建获得了更强的可扩展性和更大的领域覆盖度，让原本只在少数关键领域得到支持的本体体系，开始向更多垂直场景和快速变化的知识领域开放。
本体工程如何反向作用于大语言模型
文章并未把本体工程仅仅写成模型的“受益方”。相反，它强调本体工程也在反向赋能大语言模型。文中称，模型虽然能力强，但推理过程不可见、输出难验证、又高度依赖训练数据的统计规律，这些都构成了可解释性的根本障碍。
在这一部分，文章把本体的工程角色分成多重功能：
- 作为结构化知识供给者，为模型提供经过验证的领域知识底座；
- 作为推理校验框架，对模型输出做一致性约束和逻辑校准；
- 作为解释的锚定结构，使模型每一步推理都能映射到明确定义的类、属性和关系上。
文章据此提出，当模型输出能够追溯到它所依赖的本体条目时，解释就不再建立在对神经网络内部状态的猜测上，而是建立在对知识结构本身的追溯上。这也是可解释性从“透视黑箱”转向“展示知识结构”的工程基础。前者在技术上面临难以跨越的困难，后者则属于可设计、可优化、可验证的工程问题。
围绕这套框架，文章还提出“AI 友好的本体框架”这一工程命题。文中认为，传统本体面向描述逻辑推理机设计，其语法、公理和推理机制都围绕确定性的符号推演展开；而大语言模型进入这一体系后，本体的使用者和使用场景都发生了变化。
这意味着本体设计原则也要跟着调整。按文章表述，本体应收敛职责，专注于清晰定义领域中的对象、关系、行为与规则，为模型提供推理所依赖的“语义骨架”；至于规则的选取、组合与应用，则交还给语言模型自身的泛化能力。
这种职责重划带来的收益，是本体不必为了追求逻辑完备性而陷入复杂公理化，而是在简洁性和可维护性优先的前提下，为模型输出提供稳定的语义坐标。
在这个框架下，文章认为本体的构建还要面向大语言模型的调用接口优化，包括：
- 类定义与关系描述要便于模型理解和使用；
- 结构化知识要便于模型检索和引用；
- 约束规则要便于模型执行输出验证。
作者把这样的本体定位为：它既不是替代模型推理的符号引擎，也不是只供查阅的静态背景资料，而是嵌入推理链路中、可被实时调用和追溯的解释性基础设施。
解释模型，还是解释影响
在结尾部分，文章回到大语言模型可解释性的未来方向。作者写道，全文以 J-Space 为引，从康德十二范畴的哲学奠基，再落到大语言模型与本体工程的融合实践，勾勒出一条从神经科学到知识论、再到工程实现的线索。
贯穿全文的核心判断是：大语言模型面临的可解释性困境，不只是内部机制看不见，更来自长期以来把“解释”等同于“透视”的思维惯性。
为了说明这种边界，文章提到科幻作家斯坦尼斯瓦夫·莱姆在《索拉里斯星》中描写的一片胶质海洋。按文中引用，这片覆盖整个星球的海洋能够读取人类记忆，并将其具象化，像是“AI 黑箱”的终极隐喻：它能处理海量信息，生成超出人类预期的结果，但其底层逻辑对人类完全不可解码，既非善意也非恶意，只是遵循人类无法参透的自身规律。更悲观的是，它最后拒绝了人类所有“驯化”或理解它的尝试，暗示认知的终极边界或许客观存在。
在作者看来，这恰好说明，即便研究者能观测到模型“正在想什么”，也未必能理解它“为什么这样想”。可解释性真正的难点，也许不完全在技术手段不足，而在问题框架本身过窄。
因此，文章提出，突破大语言模型可解释性的可行路径，不应只停留在“打开黑盒”这一个方向，还应同等重视，甚至更加重视，对模型输出及其现实影响的观察、理解和控制。
在这一点上，本体工程被视作关键实践框架。文中认为，通过构建 AI 友好、可被模型调用和追溯的语义骨架，可以把模型推理锚定在明确定义的知识结构上，让输出所依赖的类、属性和关系获得可形式化描述与可追溯验证的工程基础。
当模型的每一个陈述都可以映射到本体定义的概念框架中时，“解释”就不再是对神经网络权重的解剖，而是对知识结构的展示；当模型输出的依据能在本体层面被追溯和校验时，“控制”也不再是强行干预内部激活，而是对信息流转路径进行规范化管理。
文章最后写道，这种视角转换，把可解释性从一项近乎不可能完成的技术挑战，转成一项目标明确、能够通过工程手段不断逼近的治理问题。其要求不是让模型变得完全透明，而是让模型在现实世界中产生的影响变得可理解、可追溯、可问责。
文末还提到，通付盾一直在文中讨论的本体工程与可解释性框架下推进实践，公司核心产品 LegionSpace 即基于上述技术理念构建。文章将 LegionSpace 描述为一个以本体为核心的企业级 AI 基础设施，试图把模型处理的信息、依赖的知识纳入形式化本体工程，使每一次推理与决策都锚定在可解释的知识结构之上，其愿景是让本体成为 AI 与人类理解之间的共同语言，使可解释性成为工程化治理现实。
本文来自微信公众号“新智元”，作者：ASI启示录。