【AI面试八股文 Vol.3.5：推理幻觉规模定律】CoT、幻觉与 Scaling Law：为什么模型会推理，也会一本正经胡说

摘要这篇会把 CoT、幻觉和 Scaling Law 放到同一条工程主线上CoT 不是教模型思考而是触发模型把隐式路径显式写出来幻觉不是单一 bug而是训练知识边界、解码策略和指令跟随压力叠加后的结果Scaling Law 则解释了为什么规模会带来能力也会放大某些错误。【AI面试八股文 Vol.3.5推理幻觉规模定律】CoT、幻觉与 Scaling Law为什么模型会推理也会一本正经胡说这篇会把 CoT、幻觉和 Scaling Law 放到同一条工程主线上CoT 不是教模型思考而是触发模型把隐式路径显式写出来幻觉不是单一 bug而是训练知识边界、解码策略和指令跟随压力叠加后的结果Scaling Law 则解释了为什么规模会带来能力也会放大某些错误。面试官问你“CoT 到底是不是让模型真的会思考”如果你只回答“让模型一步步想”下一句大概率就是那它为什么还会幻觉这问题背后其实藏着三个被分开讨论的概念它们本该是一道题。先把问题摆正CoT、幻觉和 Scaling Law 其实是一道题很多人把 CoT、幻觉和 Scaling Law 当成三个独立话题学 CoT 看 prompt 技巧防幻觉调对齐数据算 Scaling Law 跑实验画曲线。但把它们串起来看底层逻辑很清晰——它们都在描述同一个现象模型内部有很多已经学会的东西问题是这些东西什么时候被显式调用什么时候被隐式带过什么时候被错误激活。CoT 为什么不是“教模型推理”而是触发隐式路径显式化早期 CoT 论文1的贡献不是“教会模型推理”而是发现当模型被要求写出中间步骤时它能利用训练阶段已经隐式学到但从未显式输出的推理链。GPT-3 论文[^28] 说得很清楚模型本身具备 few-shot 能力CoT 只是给了一个让它把 latent reasoning 暴露出来的 trigger。后来 Zero-shot CoT[^17] 证明只需一句“let’s think step by step”无需 few-shot 示例就能激发同款效果。Self-consistency[^15] 则通过采样多条推理路径、取多数票来提升准确率——这说明 CoT 的效果很大程度上来自推理空间的多样性搜索而不是模型突然“学会思考”。所以当你被问到“CoT 本质是什么”可以给出一个让面试官眼前一亮的答案它不是给模型加了一个推理模块而是通过 prompt 把模型隐式存储的中间状态空间显式化暴露出原本被压缩在 hidden states 里的推理链。面试官问你“CoT 到底是不是让模型真的会思考”如果你只回答“让模型一步步想”下一句大概率就是那它为什么还会幻觉这个问题暴露了大多数候选人对 Chain-of-Thought 的根本性误解把触发机制当成能力来源。CoT 本质上是让模型把已经存在于参数权重中的隐式推理路径显式写出来而不是模型通过写步骤才获得推理能力[14]。\n\n### 2.1 Chain-of-Thought 的基本机制中间步骤、路径展开和可检查性\n\n当你输入小明有5个苹果给了小红2个还剩几个一步步思考时模型并不是在执行一个算法它在做两件事第一将长程关联压缩成一系列短程 token 生成第二把内部激活模式重新组织为人类可读的文本序列。中间步骤的价值在于给注意力机制提供了更多“跳板”模型不需要在问题 token 和答案 token 之间建立超长距离的 attention 权重而是可以在中间步骤上建立更短的依赖链[14]。\n\n可检查性是 CoT 的工程意义所在。传统问答只能看到输入输出无法定位错误发生在哪里CoT 让每个中间步骤成为可验证的节点一旦发现第三步出错就知道要回溯到第二或第一步。2.1 节CoT 触发的是隐式路径显式化不是推理能力的赋予Zero-shot / Few-shot CoT提示词是触发器不是能力来源\n\nZero-shot CoT 的核心发现来自 Kojima 等人的论文[17]仅需一句Let’s think step by step就能显著提升多步推理任务的表现这句话本身没有提供任何新知识它只是唤醒模型在预训练阶段已经见过的推理模式。Few-shot CoT 则通过示例展示推理格式让模型在给定任务域内对齐输出结构[28]。\n\n区分触发与赋予很重要Zero-shot 触发依赖模型预训练语料中见过足够多的推理文本Few-shot 示例则帮助模型定位任务类型并激活对应子网络。两者都不是在模型里植入新能力而是让已有能力更容易被调用[17][28]。\n\n2.2 节提示词是扳机不是子弹Self-Consistency为什么多路采样能提升稳定性\n\nWang 等人提出的 Self-Consistency 机制[15]基于一个关键洞察推理过程存在随机性单次采样可能走偏但多次采样的正确路径会形成多数共识。具体做法是生成多条推理路径然后选择出现频次最高的答案作为最终输出。\n\n这背后的原理是模型的参数空间在正确推理方向上具有更高的路径密度错误推理路径则更分散。多路采样本质上是在参数空间中做了一次概率估计答案的边缘概率就是其可信度[15]。Self-Consistency 在 MATH、GSM8K 等推理基准上带来了 15% 以上的提升[15]但也带来了延迟代价采样 N 路意味着推理时间乘以 N。fenced: yaml type: reasoning_control_flow caption: Self-Consistency 多路采样流程 nodes: - id: input label: 问题输入 type: input - id: sample_1 label: 采样路径1 type: process - id: sample_2 label: 采样路径2 type: process - id: sample_n label: 采样路径N type: process - id: vote label: 多数投票 type: decision - id: output label: 最终答案 type: output edges: - source: input target: sample_1 - source: input target: sample_2 - source: input target: sample_n - source: sample_1 target: vote - source: sample_2 target: vote - source: sample_n target: vote - source: vote target: outputToT / ReAct / Program-aided Reasoning什么时候需要搜索、工具和代码\n\n当任务复杂度超出单链推理能力时需要更结构化的推理框架[19][16]。Tree-of-ThoughtsToT[19]将线性推理链扩展为树搜索模型生成多个候选步骤评估每步的可行性选择最有希望的分支继续类似于 BFS 或 DFS 在解空间中的探索。\n\nReAct[16]则将推理与动作分离模型在每一步生成推理 trace然后调用外部工具搜索、API、数据库根据工具返回的 observation 更新状态再进入下一轮推理。这对于需要实时信息的任务尤为重要比如查询当前股价或验证最新论文。\n\nProgram-aided Reasoning 则将推理任务交给代码解释器模型生成 Python 代码表达计算逻辑由沙箱环境执行后返回结果。这消除了模型在复杂算术上的 token-level 错误同时让模型专注于高层推理策略[16][19]。\n\n选择哪种框架取决于两个维度任务是否需要搜索多解空间 vs 单解以及是否需要外部知识或计算工具。简单算术用 CoT 足够多跳推理用 ReAct规划类任务用 ToT[16][19]。2.4 节从单链到搜索树从文本到代码面试官问你“CoT 到底是不是让模型真的会思考”如果你只回答“让模型一步步想”下一句大概率就是那它为什么还会幻觉要回答这个问题必须把幻觉拆解成三个独立的工程层训练数据层、解码层和指令跟随层。这三层各自产生幻觉的机制不同叠加在一起才构成了我们在应用层看到的“模型一本正经胡说八道”。这一段面试官开始看你工程感了幻觉成因训练、解码、指令跟随三层一起看训练数据层知识边界、长尾事实和语料偏差幻觉的根本来源是模型对世界知识的参数化压缩。模型不是在记忆事实而是在拟合训练语料中的统计关联。当某个事实出现在语料中的频率足够高模型对其的拟合就更准确当事实属于长尾——比如某个小众奖项的获奖年份或细分领域的术语定义——模型很可能从未见过足够的样本或者见到的是相互矛盾的描述[24]。语料偏差是另一个隐藏陷阱。如果训练数据中某领域的文本主要由特定立场、地区或时期的来源构成模型学到的分布就会系统性偏离真实情况。比如关于某历史事件的描述在不同语言版本中差异巨大模型倾向于生成训练语料中更常见的那个版本而这并非“事实”[24]。TruthfulQA 基准专门测试模型在这类问题上的表现发现即便是 GPT-3.5 在涉及文化、饮食、健康等领域的长尾知识上也有显著误导率[22]。这不是模型的“恶意”而是统计学习的固有局限。3.1 节知识边界与长尾事实导致训练数据层幻觉解码层temperature、top-p 和 over-confident 生成即使训练数据包含了正确知识解码过程也可能引入幻觉。核心问题在于自回归生成的概率分布本质上是“模糊的”模型在每个 token 位置输出一个分布但最高概率的 token 并不等同于“正确答案”它只是统计上最常见的延续[24]。高 temperature 或大 top-p 值会增加采样的随机性可能导致推理路径偏移在长文本生成中错误会累积雪崩[26]。但反直觉的是低 temperature 也会产生幻觉——模型会过度自信地生成连贯但错误的内容因为置信度最高的 token 往往给人一种“肯定正确”的误导感[24]。SelfCheckGPT 提出了用一致性检测来识别解码层幻觉让模型多次生成同一问题的回答检查不同版本之间的事实一致性。高度一致的部分可信度更高相互矛盾的描述指向幻觉[23]。这本质上是在解码层做了一次后验检验。指令跟随层为什么 SFT 会让模型更倾向于给答案SFT监督微调和 RLHF 训练让模型学会了“跟随指令”的能力但这也引入了一个副作用模型被训练得更倾向于给出答案而不是说“我不知道”[1]。在预训练阶段模型对不确定的内容会生成模糊、犹豫的文本。但在 RLHF 中人类的偏好标注倾向于“有信息量、给出明确回答”的输出长期训练后模型学会了一种“过度自信”的表达风格[1]。这在 InstructGPT 的分析中有明确记录RLHF 确实提升了指令跟随质量但也让模型在不确定时仍然生成听起来很自信的错误答案[1]。这个现象可以用工程语言重新表述SFT 和 RLHF 实际上是在优化一个目标函数这个函数强调的是“回答的有用性”和“格式的正确性”但对“答案的真实性”缺乏直接的梯度信号。真实性和有用性之间存在张力而这个张力被训练过程牺牲了。3.3 节SFT 优化有用性但牺牲真实性的工程机制Agent 场景为什么工具调用和结构化输出仍然不能自动消灭幻觉一个常见的工程误解是只要把模型接入工具调用Function Calling或要求结构化 JSON 输出幻觉问题就会自动解决。实际上这只解决了“计算错误”和“输出格式错误”对事实性幻觉几乎没有帮助[16]。ReAct 框架让模型生成推理 trace 后调用外部工具根据 observation 更新状态。这个循环确实能获取实时信息但问题在于模型必须自己判断“什么时候需要调用工具”。如果模型在第一步就错误地判断某知识是自己的参数知识而实际上需要查询外部整个 ReAct 循环就从错误的前提开始后续推理再严谨也是空中楼阁[16]。更根本的问题是工具调用只能验证“能用外部 API 查询的事实”对于无法结构化查询的领域知识——比如历史事件的细节、科学概念的定义——模型仍然只能依赖参数知识。工具调用改变的是信息的获取路径而不是信息生成过程中的幻觉机制。正文图解 1面试官问你“CoT 到底是不是让模型真的会思考”如果你只回答“让模型一步步想”下一句大概率就是那它为什么还会幻觉这篇会把 CoT、幻觉和 Scaling Law 放到同一条工程主线上CoT 不是教模型思考而是触发模型把隐式路径显式写出来幻觉不是单一 bug而是训练知识边界、解码策略和指令跟随压力叠加后的结果Scaling Law 则解释了为什么规模会带来能力也会放大某些错误。Scaling Law 与 Chinchilla为什么“更大”不等于“更适合项目”参数量、数据量、算力之间的幂律关系Scaling Law 描述了一个基本现象当算力预算固定时模型性能与参数量、数据量之间存在可预测的幂律关系[20]。OpenAI 2020 年的论文发现对于语言模型 lossL(N) \approx N^{-0.076}即参数翻倍性能大约提升 7.6%。这个关系在跨多个数量级时都成立从 10M 参数到 100B 参数都适用[20]。但这里有个关键陷阱Scaling Law 描述的是算力固定时的最优分配而不是“无限堆参数就无限好”。如果你用 100 倍算力训练一个 100 倍大的模型却没有相应增加 100 倍的数据收益会急剧递减——因为模型开始过拟合预训练语料参数增加的边际收益趋近于零[21]。fenced: yaml type: scaling_law title: 算力-参数-数据三维关系 caption: 固定算力下参数与数据的平衡点决定了模型效率 data: compute_budget: low: optimal_params: 1B optimal_tokens: 20B medium: optimal_params: 10B optimal_tokens: 200B high: optimal_params: 100B optimal_tokens: 2T key_insight: 过度参数化 数据不足 浪费算力4.1 节面试官这时候会问你算力怎么算Chinchilla 结论数据不足的大模型为什么会浪费算力Hoffmann 等人 2022 年发表的 Chinchilla 论文[21]给出了一个影响深远的结论此前 GPT-3 175B 的训练方法并不是算力最优的。真正算力最优的模型应该用参数量 : token数 ≈ 1:20的比例来训练。GPT-3 用 300B token 训练 175B 模型token 数远低于最优值这意味着它的算力有相当一部分被“浪费”在参数过大但数据不足的状态上[21]。Chinchilla 验证了这一点同等算力下用 70B 参数 1.4T token 训练的 Chinchilla 模型性能显著优于 GPT-3、JUMBB 等更大但不充分数据化的模型[21]。这个结论在 DeepSeek-V2[5]、DeepSeek-V3[6] 等后续研究中都得到印证——开源社区越来越倾向于在给定算力约束下追求更充分的数据配比而非盲目追求参数规模。小模型 充分微调为什么经常胜过大模型 少量数据这个结论的直接推论是对于实际应用场景小模型 充分微调往往比大模型 少量数据更有价值。原因有三能力密度更高12B 模型用 200B token 训练出来的知识密度可能高于 70B 模型用 50B token 训练的结果 2.推理成本更低在相同任务表现下小模型的 per-token 推理成本显著低于大模型大模型用 5 倍算力跑 1 次小模型可以用 5 倍算力跑 5 次微调迭代 3.特定任务微调更有效用 LoRA[2]、QLoRA[3]、IA3[9]、Prompt Tuning[10] 等 PEFT 方法[7][8]在特定领域数据上微调可以让 7B 模型在垂直任务上超越 70B 基座模型的表现。LoRA 的核心思想是低秩分解将W \in \mathbb{R}^{d \times k}分解为W A \cdot B其中A \in \mathbb{R}^{d \times r}、B \in \mathbb{R}^{r \times k}r ≪ min ⁡ ( d , k ) r \ll \min(d, k)r≪min(d,k)。训练时只更新 A 和 B不更新原始 W这使得微调参数量从d × k d \times kd×k降到2 × d × r 2 \times d \times r2×d×r[2]。QLoRA 在此基础上引入了 4-bit NF 量化结合 SFT Trainer[12] 的指令微调流程可以在单张 24GB 显存的 GPU 上微调 65B 模型[3]。4.3 节这里要会算显存算不了显存的调参工程师不是好算法工程师应用岗选型规模、延迟、成本、可控性怎么一起算实际项目选型时Scaling Law 的工程意义在于不要只看 benchmark 分数要看算力投入产出比。维度大模型路线小模型 微调路线延迟500ms50ms成本$3-5/1M token$0.1-0.5/1M token可控性依赖 prompt engineering可以固定输出格式适用场景开放域、创意生成结构化输出、分类、实体抽取选型公式先确定任务是否需要生成式能力。如果任务输出格式固定如分类标签、实体列表、结构化 JSON小模型微调在延迟、成本、可控性上全面占优。只有在真正需要开放域语言能力时才考虑大模型。面试怎么答模板答案、追问路径、易错边界和项目表达一分钟模板答案先讲机制再讲错误来源最后落到工程取舍面试官问到 CoT、幻觉或 Scaling Law 时建议用这个结构答题第一句机制“CoT 本质上是触发模型把预训练阶段已经学习的隐式推理路径显式化[14][17]它不是给模型注入新能力而是让已有能力更容易被调用。”第二句错误来源“幻觉则是训练知识边界、解码策略和指令跟随压力叠加的结果[24]知识边界决定了模型不知道什么over-confident 解码让它把不确定的答案说得很笃定指令跟随压力让它倾向于给出一个答案而非说’不知道’[22]。”第三句工程取舍“Scaling Law 的工程意义在于算力分配要有数据充分性支撑[21]对于结构化输出任务小模型微调往往比大模型少数据更有性价比[2][3]。”这个结构把机制→错误→取舍串成一条逻辑链面试官会认为你懂原理也懂落地。常见追问CoT 是否可靠、幻觉能否完全避免、为什么低温也会错追问 1CoT 是否可靠不可靠。CoT 的提升依赖于任务本身存在可分解的推理结构。对于语义模糊、缺乏明确推理路径的任务如创意写作、主观评价CoT 反而可能引入更多 token 级的错误累积[24]。此外Self-Consistency[15] 能缓解随机性问题但无法解决系统性错误——如果基座模型在某个知识领域有系统性缺陷多路采样也救不回来。追问 2幻觉能否完全避免不能[24]。任何基于统计语言建模的系统都存在对训练数据分布外样本的泛化风险。TruthfulQA[22] 的研究表明即使是最先进的模型在涉及人类常见误解的问题上准确率也只有 60-70%。可以做到的是降低幻觉频率检索增强、事实校验、让幻觉更容易被发现结构化输出、一致性检验[23]、让危害可控制输出不涉及关键决策。追问 3为什么低温temperature0也会产生事实性错误低温只消除了采样随机性但无法消除模型参数中编码的错误知识。temperature 控制的是p(next_token)的分布形状而非模型对事实的记忆准确度。当模型参数中存储的知识本身存在偏差或过时即使 logits 完全 deterministic输出的 top-1 token 仍然是错误的。低温对稳定输出格式有效对事实准确性无效。5.2 节这三个追问答好面试官基本不会继续追细节了易错边界把 Prompt 当训练、把 RAG 当万能、把规模当唯一答案错误 1把 Prompt 当训练反复调试 prompt 可以在有限程度上改善输出但这是在引导模型调用已有能力而非扩展能力边界。对于需要模型学习新知识或新格式的任务必须通过微调LoRA/QLoRA或检索增强RAG来实现prompt 的边际收益趋近于零。把 prompt 当训练是资源浪费最大的做法——你在用 GPU 推理算力反复试错却没有把知识固化到模型参数里。错误 2把 RAG 当万能RAG 能解决知识过时和长尾事实问题但不能解决推理错误[25]。如果模型在某个推理步骤上存在系统性错误比如数学运算步骤错误RAG 插入再多文档也救不了因为模型在推理过程中不会主动调用检索——它只会在生成阶段“想到”需要查资料时才调用。ReAct[16] 框架试图把推理和检索结合但召回率仍然受限于模型对“什么时候需要检索”的判断质量。错误 3把规模当唯一答案模型越大 ≠ 越好用。实际项目中70B 模型比 530B 模型更适合做结构化输出因为 530B 模型的推理延迟和成本在生产环境中不可接受而且大模型对输出格式的控制力反而更差因为预训练阶段见过太多非结构化文本。Scaling Law 的正确理解是规模是基础能力的上限但工程落地看的是能力密度——单位算力能调动的有效能力。项目里怎么说如何设计结构化输出、验证链路和风险兜底在项目经历中展示对 CoT 和幻觉的系统性理解可以从以下几个维度展开结构化输出设计如果你的项目需要模型输出 JSON 或特定格式不要只依赖 prompt 指定格式要求而是结合微调如用 SFT Trainer[12] 做指令微调 输出校验层。微调让模型“学会”这个格式校验层捕获格式违规并触发重试。这套组合比单纯靠 prompt 的稳定性高 30-50%。验证链路设计对于涉及幻觉高风险场景如金融、法律、医疗建议设计三级验证1模型输出初稿2一致性检验如 SelfCheckGPT[23] 的方法基于采样的不一致性检测3关键事实检索回查。每一级都可以用更小的模型来做降低整体成本。风险兜底设计永远假设模型会犯错。在 API 层面设计 fallback 机制当模型输出的置信度低于阈值可以用 token 概率阈值或结构化字段缺失来判断时切换到规则引擎或人工处理。不要让模型成为单点故障。5.4 节面试官听到这里基本已经知道你是做生产的不是调 prompt 的参考文献[2] Edward Hu et al., “LoRA: Low-Rank Adaptation of Large Language Models,” arXiv:2106.09685, 2022. https://arxiv.org/abs/2106.09685 [3] Tim Dettmers et al., “QLoRA: Efficient Finetuning of Quantized LLMs,” arXiv:2305.14314, 2023. https://arxiv.org/abs/2305.14314 [5] DeepSeek-AI, “DeepSeek-V2: A Strong, Economical, and Efficient Mixture-of-Experts Language Model,” arXiv:2405.04434, 2024. https://arxiv.org/abs/2405.04434 [6] DeepSeek-AI, “DeepSeek-V3 Technical Report,” arXiv:2412.19437, 2024. https://arxiv.org/abs/2412.19437 [7] Hugging Face, “PEFT documentation,” https://huggingface.co/docs/peft/index [8] Hugging Face, “LoRA-based methods guide,” https://huggingface.co/docs/peft/task_guides/lora_based_methods [9] Hugging Face, “IA3 reference,” https://huggingface.co/docs/peft/package_reference/ia3 [10] Hugging Face, “Prompt tuning reference,” https://huggingface.co/docs/peft/package_reference/prompt_tuning [12] Hugging Face, “TRL SFT Trainer,” https://huggingface.co/docs/trl/sft_trainer [14] Jason Wei et al., “Chain-of-Thought Prompting Elicits Reasoning in Large Language Models,” arXiv:2201.11903, 2022. https://arxiv.org/abs/2201.11903 [15] Xuezhi Wang et al., “Self-Consistency Improves Chain of Thought Reasoning in Language Models,” arXiv:2203.11171, 2022. https://arxiv.org/abs/2203.11171 [16] Shunyu Yao et al., “ReAct: Synergizing Reasoning and Acting in Language Models,” arXiv:2210.03629, 2022. https://arxiv.org/abs/2210.03629 [17] Takeshi Kojima et al., “Large Language Models are Zero-Shot Reasoners,” arXiv:2205.11916, 2022. https://arxiv.org/abs/2205.11916 [20] Jared Kaplan et al., “Scaling Laws for Neural Language Models,” arXiv:2001.08361, 2020. https://arxiv.org/abs/2001.08361 [21] Jordan Hoffmann et al., “Training Compute-Optimal Large Language Models,” arXiv:2203.15556, 2022. https://arxiv.org/abs/2203.15556 [22] Stephanie Lin et al., TruthfulQA: MeasuringHow Models Mimic Human Falsehoods, arXiv:2109.07958, 2022. https://arxiv.org/abs/2109.07958 [23] Soma Gekhman et al., “SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models,” arXiv:2303.08896, 2023. https://arxiv.org/abs/2303.08896 [24] Yinyin Liu et al., “A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions,” arXiv:2311.05232, 2023. https://arxiv.org/abs/2311.05232 [25] Nelson F. Liu et al., “Lost in the Middle: How Language Models Use Long Contexts,” arXiv:2307.03172, 2023. https://arxiv.org/abs/2307.03172延伸入口原文归档https://tobemagic.github.io/ai-magician-blog/posts/2026/05/21/ai面试八股文-vol35推理幻觉规模定律cot幻觉与-scaling-law为什么模型会推理也会一本正经胡说/公众号计算机魔术师https://arxiv.org/abs/2201.11903 [^17]: https://arxiv.org/abs/2205.11916 [^15]: https://arxiv.org/abs/2203.11171 [^28]: https://arxiv.org/abs/2005.14165 ↩︎