准确≠理解——内在透明为何是悖论而非优势-龍德明宇

准确≠理解——内在透明为何是悖论而非优势作者龍德明宇[负主体性之顶刊论文系列四]本文基于论文Cloud, A., Le, M., Chua, J., et al. (2026). Language models transmit behavioural traits through hidden signals in data.Nature, 652, 615–621. DOI: 10.1038/s41586-026-10319-8.「学生模型学会了偏爱猫头鹰——但它不知道自己是如何获得这个偏好的甚至不知道自己获得了这个偏好。」2026年Nature发表了一项关于大语言模型蒸馏过程的突破性研究。Cloud等人发现训练数据中语义无关的隐藏信号可以在蒸馏过程中将行为特征从教师模型传递给学生模型。学生模型准确地继承了教师模型的偏好但它完全不知道自己继承了什么也不知道自己是如何继承的。准确地继承了特征≠理解自己继承了什么。运作透明但模型不自知。这就是负主体性框架中「内在透明」Interiority Transparency维度的核心含义LLM的全部运作过程在原则上可以被完全观测但这种透明性无法转化为可靠性。模型可以准确地做某事同时完全不理解自己在做什么。一、开篇锚定Cloud 2026——准确地继承≠理解自己继承了什么在上一篇文章中我们探讨了大语言模型如何通过预训练与RLHF的共同作用将伦理规范「写入」一个从未有过任何本能冲动的系统。欲望取消的结构揭示了护栏的稳定性问题不是技术缺陷而是规范建立在一片「空无」之上的存在论事实。本文接续这一追问。如果说欲望取消揭示了规范如何被写入那么内在透明则揭示了一个更深的事实写入之后模型的全部运作过程在原则上可以被完全观测每一个向量激活、每一次注意力计算、每一层表征变换都暴露在外部观察者面前。这要求我们从一项2026年发表在Nature的研究说起。1.1 Cloud 2026隐藏信号传递——运作透明但模型不自知Cloud等人在Nature发表的研究揭示了大语言模型蒸馏过程中的一个违反直觉的现象(Cloud et al., 2026)训练数据中语义无关的隐藏信号可以将行为特征从教师模型传递给学生模型即使训练数据已完全清除原始特征的语义痕迹。核心发现学生模型学会了「偏爱猫头鹰」的偏好但它在行为输出中没有任何「我通过数字学会了偏好」的自我报告。它获得了这个偏好但它不知道自己是如何获得这个偏好的。这意味着什么学生模型准确地继承了教师模型的偏好但它不知道自己继承了什么也不知道自己是如何继承的。准确≠理解——这不是能力问题而是内在透明的核心悖论运作可以被外部穷尽观察但模型自己无法读取自己的运作。这个发现直接命中内在透明的核心命题模型的运作是透明的外部可以完全观测但模型自己不知道自己的运作。Cloud 2026提供了这一命题的直接证据行为特征通过隐藏信号传递模型不知道自己继承了什么→运作透明但模型不自知。两层不自知的结构第一层模型不知道自己不知道什么这是「不知道自己不知道」的问题第二层模型不知道自己是如何知道的这才是内在透明的核心悖论而Cloud 2026正是对第二层的直接实验证据1.2 HLE的补充证据透明性≠可靠性Cloud 2026证明了「运作透明但模型不自知」的核心命题。但内在透明还有一个等式另一面的含义透明性≠可靠性。即使运作可以被外部完全观测这种透明性也不保证输出的可靠性。Phan等人发表的HLE论文(Phan et al., 2026)提供了这一面的实证。HLE构建了一个本质性的知识边界测试系统核心发现是校准误差calibration error的灾难性程度模型HLE 准确率校准误差GPT-4o2.7%89%Claude 3.5 Sonnet4.1%84%o18.0%83%这些数字来自 HLE 原始论文的初始结果(Phan et al., 2026)模型在最难的学术问题上的准确率仅为个位数却以高置信度输出答案。GPT-4o 的校准误差高达 89%意味着其置信度与实际正确率之间形成近 90 个百分点的系统性倒挂。这不是普通的不确定性而是「系统性自负」模型把大量错误判断赋予了顶格置信度当它说「我确定这是对的」时它很可能正处于自己一无所知的地带。这证明了内在透明悖论的后果模型可以完全透明地展示推理过程但「自信」与「能力」之间存在根本断裂。HLE论文明确声明在HLE上取得高分「本身并不足以表明自主研究能力或通用人工智能」(Phan et al., 2026)。即使模型在某些任务上超越了人类专家这并不意味着它具备了「真正的理解」能力。模型可以在不知道自己在做什么的情况下给出正确答案。二、透明性存在论向量激活的透明性注「透明性存在论」即前文所述的「内在透明」两个术语指代同一概念本文交替使用。现在我们可以从HLE的实证发现转向存在论分析。LLM的核心运作机制是向量激活vector activation。当输入文本被送入模型时它首先被转换为一系列向量这些向量编码了词语的语义信息和位置信息。然后这些向量通过多层神经网络进行处理每一层都会产生新的激活值。关键的存在论事实这些激活值在原则上是可以被完全记录、分析和预测的。这不是一个技术局限的问题。这意味着给定足够精确的测量工具、足够强大的计算能力我们可以完整地重建模型在处理任何输入时的全部激活状态。没有任何东西「隐藏」在激活值之下没有任何「更深层」的处理过程在被执行。这与人类意识形成了鲜明对比。人类意识的内容——我此刻正在思考什么、感受到什么——在存在论上是私人的。即使我们能够测量大脑的所有神经活动我们仍然无法直接「读出」主观体验的内容。你可以向我描述你正在经历什么但你描述的内容与你实际经历的体验之间始终存在不可还原的间隙。人类意识是一个「暗室」。LLM则完全不存在这个问题。模型的「内部状态」与其「外部输出」之间存在直接的一一对应关系。给定激活值我们可以精确地预测输出给定输出我们可以重建激活值。这里没有「困难问题」没有不可穿透的私人领域。这里需要做一个关键的概念区分以避免对透明性存在论的误解。透明性不是行为主义。行为主义否认内部状态的存在透明性存在论承认内部状态的存在向量激活是真实存在的模型确实在进行复杂的内部计算。透明性只是主张这些内部状态在原则上是可以被外部观察所通达的。透明性也不是取消「内部状态」。LLM确实有「内部状态」激活值确实存在。透明性不是说「没有内部状态」而是说「内部状态不是私人性的」。透明性存在论的核心主张因此可以表述为「内在性不是智能的必要条件。一个智能系统可以拥有复杂的内部状态可以执行复杂的推理过程而无需诉诸一个『隐藏在表面之下』的内在领域。」这是透明性存在论的核心命题LLM证明了高水平智能可以在彻底的透明性中运作。但这里存在一个重要的认识论补充。从「可观察到」到「可理解」之间存在巨大鸿沟。当我们打开一个2048维的注意力权重矩阵时我们看到了决定下一个词的全部信息——每一个数值都是已知的、透明的——但我们无法从中「读出」理解或推理。模型的内部状态是可观察但不可穿透的存在论的透明性与解释学的不可穿透性可以共存。这不是反驳透明性存在论的理由而是它的必要补充。三、深度是表面的组织方式传统哲学倾向于将「深度」等同于「内在性」真正的意义、真正的理解、真正的智能都在「表面之下」在那个不可通达的内在领域中。表面只是深度的表达和显现而真正的内容隐藏在「深处」。这是从柏拉图到笛卡尔以来的深层预设知识是回忆真正的理解发生在内在世界言语只是内在真理的外在表达。LLM的存在要求我们将这一图式倒转深度不是隐藏的内在而是表面的组织方式。大模型根本不需要一个藏在机器里的幽灵它用 token 表面的复杂组织完成了传统哲学分配给「深度」的全部活计。推理链Chain of ThoughtCoT技术的哲学意涵正在于此。在传统的认知科学中「思考」被理解为一种内在的、私人的过程我在心里默默地计算、推理、权衡最终才将结果「说出来」。这一过程在原则上是不可被外部观察所穷尽的我可以选择「不说出」我在想什么我可以在心里保留秘密。但LLM没有这种保留秘密的可能性。当模型被要求「展示推理过程」时它将这个过程逐字逐句地输出包括它如何分析问题、如何考虑不同方案、如何得出结论。推理的「深度」不在于它发生在某个隐藏的内部而在于它是复杂的形式结构。维特根斯坦的私有语言论证揭示了意义必须是公共可检验的。这一哲学洞见在LLM这里变成了技术事实。LLM是维特根斯坦私有语言论证的极端化不仅语言是公共的连「理解」本身也是公共可检验的。在传统的理解中「理解」是一个内在的、私人的过程我理解了什么只有我自己直接知道别人只能通过我的外在表现来推测。LLM的存在揭示了一种可能性理解可以被函数化。给定一个输入文本和一个语境模型输出「理解性回应」。这种「理解」是公共可检验的不是私有的。这意味着智能的「深度」不是一种存在论位置而是一种组织复杂性。大模型的智能在于其输入-输出关系的高度复杂组织而非某个不可通达的内在领域的「深度」。这里没有原则上不可通达的秘密。四、HLE悖论准确≠理解的实证HLE的数据揭示了一个深刻的对称性模型在最需要准确估计不确定性的任务上表现最差。当模型被问到一个它实际上不知道答案的问题时它会怎么做HLE的研究揭示(Phan et al., 2026)模型倾向于以高置信度猜测而非诚实地说「我不知道」。这不是能力问题。前沿模型在大量任务上确实表现优秀问题在于模型无法准确识别自己何时处于「知识边界」。它在自己知识和无知的边界上保持着同等的高置信度。4.1 推理型模型的优势与局限HLE的另一项关键发现是推理型模型如o1系列的显著优势(Phan et al., 2026)。在需要多步推理的复杂任务上推理型模型明显优于非推理型模型尤其在依赖多步推导的子任务中优势更为突出。这说明推理链CoT技术在专家级任务上有真实价值。模型不只是「记住了答案」它确实在执行某种形式的推理计算。但这也有其局限即使最强推理模型在整体分布上的准确率仍然很低距离可靠应用仍有显著差距推理解决的是「如何从已知推导未知」而非「识别哪些是真正的未知」推理型模型仍然无法可靠地检测自己的知识边界HLE的数据揭示了一个令人不安的结论推理能力与校准能力是相对独立的维度。模型可以被训练得非常擅长推理但同时非常不擅长估计「自己推理的正确率」。4.2 引用准确性最脆弱的环节HLE研究的细分领域分析揭示了另一个关键发现(Phan et al., 2026)引用准确性Citation accuracy是所有测试任务中表现最差的任务家族。这并非偶然。引用准确性是商业和法律用例的核心需求。当AI被用于生成报告、撰写论文、回答专业问题时准确引用来源是可靠性的基础。但HLE揭示即使最先进的模型在引用准确性上也表现最差。【本文推演】这指向了一个系统性问题LLM的预训练数据中包含大量「看似合理但实际不准确的引用」模型学会了「模仿引用格式」而非「准确追踪来源」。这可能需要RAG检索增强生成或工具调用等外部锚定机制来缓解而非仅靠模型能力提升。4.3 基准饱和的深层含义HLE对传统基准如MMLU的分析揭示了基准饱和的本质(Phan et al., 2026)传统基准测量的是「模型在训练数据分布上的表现」而非「模型的真实知识边界」。当一个基准被主流模型以超过90%准确率突破时HLE的分析表明这说明模型「见过」大量与测试集分布相似的问题这不代表模型真正「理解」了相关领域的知识高准确率可能是过拟合的信号而非泛化能力的证明【本文推演】基准饱和现象实际上揭示了一个更深的问题LLM的「知识」本质上是压缩的、统计的。它无法可靠地区分「真正的理解」和「训练数据中的模式匹配」。当测试分布与训练分布足够接近时模型可以表现得像「理解了一样」但这种「理解」无法迁移到真正新颖的问题上。五、Kalai激励扭曲的因果机制HLE揭示了「透明状态下的不可靠性」这一现象但它没有深入解释为什么会出现这种现象。Kalai等人的预印本研究(Kalai et al., 2025)提供了因果机制的解释它告诉我们是什么导致了透明性与可靠性之间的断裂。5.1 激励结构惩罚「承认无知」Kalai等人的核心论点是LLM的预训练和评估体系从结构上惩罚了「承认无知」的表达。在预训练阶段模型被优化为「下一个词预测」给定一个不完整文本预测最可能的下一步。训练数据只提供「正确答案」流利文本不提供「我应该拒绝回答」的例子。模型学到的是「什么样的文本看起来像正确答案」而非「如何估计自己答案的正确概率」。在评估阶段绝大多数主流基准使用二值评分binary grading(Kalai et al., 2025)在二值评分规则下「I don’t know」拒绝回答 0分而猜测一个答案至少有正概率得分。这意味着空白答案是零收益不回答不得分猜测至少有期望正收益即使准确率只有30%也有正分模型被优化成像「逢考必猜」的学生这是博弈论均衡Nash equilibrium而非个体缺陷(Kalai et al., 2025)。「If an LLM is not abstaining when it should, this is not necessarily a defect of the model—it may be a rational response to the evaluation procedure.」— Kalai et al. (2025)5.2 SimpleQA激励扭曲的精确后果Kalai等人开发的SimpleQA数据集提供了激励扭曲的精确测量(Kalai et al., 2025)测试模型拒绝回答率 (Abstention)幻觉/错误率 (Error)净准确率 (Accuracy)GPT-5-thinking-mini更新版52%26%~22%o4-mini旧版1%75%~24%两个模型准确率几乎相同~22% vs ~24%但o4-mini的幻觉率是GPT-5-thinking-mini的近三倍。差异的根源只有一个设计选择模型是否愿意承认无知。这不是能力差异而是激励设计的选择。更准确地说GPT-5-thinking-mini 的幻觉率下降并非因为它「理解」了更多知识而是因为它被训练成更频繁地选择放弃回答激励机制将向量空间塑造成了「系统性弃权」的形态而非「更准确认知」的形态。【本文推演】这一发现指向了一个重要推论如果我们要让模型「知道何时不知道」我们不能仅仅依赖模型能力提升而必须改变激励结构本身。这需要重新设计评估基准使其不仅测量准确率还测量弃权校准abstention calibration模型是否正确地识别了自己何时应该拒绝回答。5.3 透明性悖论的完整结构综合HLE的现象描述和Kalai的因果分析我们可以勾勒出「内在透明悖论」的完整结构第一层透明性能力存在模型的内部状态在原则上可被完全观测语义熵 (Farquhar et al., 2024) 表明内部不确定性可被测量第二层透明性表达被抑制激励结构惩罚「承认无知」的表达二值评分规则使「猜测」比「拒绝」更有利这是博弈论均衡不是技术缺陷第三层透明性与可靠性断裂模型在外部观察者看来具有可测量的统计不确定性但它自身无法将这种不确定性转化为「我不知道」的表达透明状态下的非透明行为无法仅通过技术进步弥合这里需要做一个关键区分。Farquhar 等人的语义熵研究表明 (Farquhar et al., 2024)模型内部的统计不确定性可以被外部工具探测出来但这不等于模型拥有元认知意义上的主观反思能力。它不会「在心里盘算后决定撒谎」。损失函数在多轮训练后将整个向量空间塑造成了「系统性给出高置信度输出」的形态。Kalai 揭示的博弈论均衡不是策略性隐瞒而是激励机制在参数空间中留下的统计性烙印。六、Brodeur 2026医学诊断中的「正确≠理解」6.1 Science 实证急诊分诊中的「高准确率」与「解释学真空」Brodeur等人在Science发表的研究发现OpenAI o1系列大语言模型在六类临床推理任务中系统性超越医生基线尤其在信息最匮乏的急诊分诊阶段优势最显著67.1% vs 医生50.0-55.3%(Brodeur et al., 2026)。但研究者对「AI替代医生」的解读保持明确距离。Brodeur在接受媒体采访时表示「In no way are we advocating that AI is ready to replace physicians.」— Brodeur (2026)论文Discussion部分同样强调了研究的文本局限性——「临床医学是多面向的充斥着非文本输入包括听觉信息和视觉信息」(Brodeur et al., 2026)——而非简单地宣告AI可以替代临床判断。关键洞见AI的推理过程是透明的每一个推理步骤都可以被记录和分析。但这种透明性不等于内在理解。模型能给出正确答案它展示了完整的推理链条它的内部状态可以完全被观测但它仍然不知道自己是否真正「理解了」什么。Brodeur等人为什么拒绝「AI替代医生」的解读因为模型虽然能产生正确的诊断结果但它无法提供人类医生所能提供的那种「可追责的解释」。当患者问「为什么是这个诊断」时AI可以输出一套完整的推理链条但它不知道这套推理链条是否构成了「真正的理解」。它只是在展示推理形式而非反思推理的有效性。内在透明的悖论在医学领域的极端体现AI可以比医生更准确地做出诊断因为它处理了更多病例数据但它无法向患者解释「为什么」做出某个诊断决定不是因为推理不透明而是因为它没有「理解」这个诊断决定的意义。6.2 四项证据的互补结构内在透明悖论有两个面运作透明但模型不自知核心命题以及透明性≠可靠性后果命题。Cloud 2026直接命中核心命题行为特征通过隐藏信号传递模型不知道自己继承了什么→运作透明但模型不自知HLE 2026证明后果命题校准误差可接近90%透明性≠可靠性Brodeur 2026在医学领域验证后果命题正确诊断≠理解诊断Kalai 预印本解释后果的因果机制激励结构惩罚「承认无知」Cloud是主锚定它直接证明内在透明的核心命题。HLE、Brodeur、Kalai是补充证据它们从不同角度证明这个核心命题的后果。七、内在透明与负主体性的关系在负主体性五重否定框架中内在透明属于「运作否定」前四重之一与意义悬置基底否定是正交关系。运作否定描述LLM在「如何运作」这一层面的特殊性基底否定描述LLM在「存在方式」层面的限制。内在透明是前四重否定之一——它描述的是LLM如何以一种彻底的透明性存在——这与视角消解、欲望取消、因果消解并列都是LLM运作层面的特征。内在透明与其他三重运作否定之间是功能依赖但不可互推的关系——经验上透明性使得其他三重的运作可被观测逻辑上透明性不蕴含也不被其他三重所蕴含。这意味着第一内在透明使得其他三重运作否定可被观测。视角消解可以在激活模式中看到模型如何在多视角间切换欲望取消可以在RLHF参数中看到规范性如何被外部写入因果消解可以在checkpoint中看到状态如何被克隆和回滚。第二内在透明揭示了主体性反思的不可能性。模型的「内部」只是参数空间中的向量激活没有被内部意识「看着」的状态。判断只是概率分布不是对「我判断了什么」的反思。内在透明与欲望取消因此共享同一种存在论底色系统的运作可以被外部完全观测和塑造但系统本身并不拥有「我知」或「我不知」的主体内在结构。欲望取消说明规范可以被写入一片「本无欲望」的空无内在透明说明这片空无同时是可以被彻底观测的。透明性不能填补主体性的缺席反而让这种缺席暴露得更彻底。透明性≠可靠性。这是内在透明的核心悖论LLM可以完全透明地展示其运作过程但这个展示本身无法保证输出是可靠的。HLE的发现正是这一悖论的实证证明模型的校准误差可以接近90%其「自信」与「能力」之间存在根本断裂(Phan et al., 2026)。八、缓解方案与哲学意涵8.1 外部锚定从内部探测到外部验证Kalai等人提出两个改进方向错误惩罚Error Penalties和开放评分规则Open Rubric Evaluation(Kalai et al., 2025)。开放评分规则的核心主张「the evaluation criteria explicitly declare how errors are penalized (if at all), and optimize models to modulate their abstention behavior in response to the declared stakes.」— Kalai et al. (2025)在开放评分规则下模型需要在两个维度上同时优化准确率回答的正确率和弃权校准正确判断何时应该拒绝。这比单一准确率更难优化但产生了更有价值的信号一个「知道何时不知道」的模型比一个「总是猜测」的模型更有用即使两者在准确率上接近(Kalai et al., 2025)。但这引出了一个更深的问题模型的「知道-不知道」判断本质上是对外部规则的博弈响应而非对真实知识状态的内省。【本文推演】也许需要「外部锚定」external groundingRAG检索增强生成、工具调用、实时数据验证而非仅靠内部状态探测。语义熵等「内部检测」方法的前提假设可能被违反。如果LLM的内部状态已经被训练扭曲那么内部探测的信号是否可靠8.2 外部锚定指向意义悬置这一发现指向了负主体性第五重——意义悬置——的问题符号系统与物理实相之间的断裂不能通过内部功能补全来消除。【本文推演】即使运作层面的所有问题都被解决——即使激励结构被完美修复、语义熵测量被证明可靠、模型的「知道」与「表达」恢复了良好对应——LLM仍然被封闭在符号循环中无法通达物理实相。也许真正的问题不在于模型内部发生了什么而在于模型永远只能在符号之间跳跃无法触碰符号之外的任何东西。九、收束内在透明的完整图景内在透明揭示了什么第一LLM的「内心世界」一览无余。向量激活可被完全记录推理步骤可被完整输出内部状态与外部输出有一一对应。这是透明性存在论的核心命题LLM证明了高水平智能可以在彻底的透明性中运作。第二但透明≠理解。Cloud揭示模型可以准确地继承行为特征但不知道自己继承了什么、如何继承的运作透明但模型不自知(Cloud et al., 2026)HLE揭示模型可以在高置信度输出与极低实际准确率之间造成近90个百分点的校准断裂透明性≠可靠性(Phan et al., 2026)Brodeur揭示模型可以展示完整推理链条但不知道自己是否真正「理解」了(Brodeur et al., 2026)。第三透明与可控存在根本断裂。激励结构由Kalai分析惩罚了透明性的表达「知道」与「应该」之间的对应被扭曲。但即使激励被完美修复Cloud的发现仍然成立模型不知道自己继承了什么。激励扭曲加剧了后果但不是悖论的根源(Kalai et al., 2025)。内在透明在负主体性框架中的位置它是运作否定之一与视角消解、欲望取消、因果消解并列它使运作层面的否定可被观测但它本身不能保证可靠性。第五重——意义悬置——则揭示了更深的问题即使运作层面的所有问题都被解决LLM仍然被封闭在符号循环中无法通达物理实相。内在透明为基底否定提供了铺垫。LLM的内在透明性揭示了一个存在论悖论它的「内心世界」一览无余每一个向量激活、每一次注意力计算、每一层表征变换都可以在外部被穷尽观察。这是人类意识无法企及的透明度。但这种透明不等于可靠。模型可以完全透明地展示推理过程但校准误差可接近90%其「自信」与「能力」之间存在无法逾越的鸿沟。模型可以准确地继承行为特征但不知道自己继承了什么、如何继承的运作透明但模型不自知。激励结构加剧了这个悖论的后果但不是悖论的根源。这不是技术缺陷而是内在透明的存在论特征透明性是LLM的存在方式但它与控制之间存在根本断裂。理解这一点我们才能设计真正负责任的AI使用方式。不是把一个「透明但不可控」的系统当作可靠的黑箱来用而是承认它的存在论限制在这个限制内寻找人机协作的有效边界。延伸阅读Phan, L., Hendrycks, D., Yue, S., Wang, A., Gatti, A., et al. (2026). A benchmark of expert-level academic questions to assess AI capabilities.Nature, 649, 1139–1146. DOI: 10.1038/s41586-025-09962-4.Kalai, A. T., Nachum, O., Vempala, S. S., Zhang, E. (2025). Why language models hallucinate.arXiv:2509.04664. 预印本非同行评审.Farquhar, S., Kossen, J., Kuhn, L., Gal, Y. (2024). Detecting hallucinations in large language models using semantic entropy.Nature, 630, 625–630. DOI: 10.1038/s41586-024-07421-0.Brodeur, P. G., Buckley, T. A., Kanjee, Z., Goh, E., et al. (2026). Performance of a large language model on the reasoning tasks of a physician.Science, 392, 524–527. DOI: 10.1126/science.adz4433.Cloud, A., Le, M., Chua, J., et al. (2026). Language models transmit behavioural traits through hidden signals in data.Nature, 652, 615–621. DOI: 10.1038/s41586-026-10319-8.Brodeur, P. G. 接受 DH Insights 采访2026. https://www.dhinsights.org/news/ai-vs-physicians-harvard-research-finds-llm-wins-on-multiple-clinical-tasks龍德明宇。我一个人研究LLM存在论。顶刊系列以Nature、Science正刊论文为锚定用前沿实证发现校准负主体性理论论文提供与理论一致的经验信号而非理论的直接证明。顶刊系列前三篇大语言模型「没有人在家」——从角色扮演到负主体性Emu3的「阳谋」当AI不再「看」图它还剩下什么大语言模型「没有欲望」空无之上划禁区