当前位置：首页 > article >正文

LLM论文笔记 25: Chain-of-Thought Reasoning without Prompting

article 2026/3/9 10:58:26

Arxiv日期：2024.5.31
机构：Google DeepMind

关键词

cot-decoding
推理路径
pretrain

核心结论

1. LLMs 不需要prompting就可以生成链式推理路径，prompting只是将这些能力显性化的一种手段

2. cot path 往往与更高的model confidence相关，可以用作可靠性的metric

3. 探索多样化的解码路径能有效挖掘模型的内在推理能力，而不仅仅依赖于模型规模或训练数据的多样性

4. CoT-Decoding 可以弥补模型未经过指令调优时的推理能力缺陷，并在指令调优的模型中进一步优化性能

5. Cot-Decoding适用于多种任务和语言模型，显示出显著的通用性和鲁棒性

主要方法

（验证了内在推理能力的存在）使用pretrain模型，不使用greedy decoding，而是在第一个token预测使用top-k：发现内化cot推理能力，且带cot的答案置信度更高

置信度衡量标准：

answer中每一个token在NTP时当前token和下一个token的概率差异

注：本系列不包括基础的知识点讲解，为笔记/大纲性质而非教程，用于论文知识点和思想和快速记忆和回顾，更多细节建议阅读论文原文

LLM论文笔记 25: Chain-of-Thought Reasoning without Prompting

Arxiv日期：2024.5.31机构：Google DeepMind 关键词 cot-decoding推理路径pretrain 核心结论 1. LLMs 不需要prompting就可以生成链式推理路径，prompting只是将这些能力显性化的一种手段 2. cot path 往往与更高的model confidence相关&…...

编程日记 2026/2/24 3:40:35

新型XCSSET恶意软件利用增强混淆技术攻击macOS用户

微软威胁情报团队发现了一种新型的XCSSET变种，这是一种复杂的模块化macOS恶意软件，能够感染Xcode项目，并在开发者构建这些项目时执行。这是自2022年以来的首个已知XCSSET变种，采用了增强的混淆方法、更新的持久化机制以及新的感…...

编程日记 2026/3/4 8:28:22

Redis存数据就像存钱：RDB定期存款 vs AOF实时记账

Redis持久化 ◆ 核心概念1. ◆ 持久化全景图2. ◆ 生产环境黄金法则 ◆ RDB深度优化1. ◆ 生产配置精要2. ◆ 高级触发场景3. ◆ 故障应急方案 ◆ AOF深度解析1. ◆ 7.0版本革命性改进2. ◆ 同步策略深度测试3. ◆ 重写过程优化 ◆ 混合持久化实战1. ◆ 配置示例2. ◆ 数据恢复…...

编程日记 2026/2/15 20:20:50

[C++面试] 关于deque

一、入门 1、deque与vector的区别 deque的迭代器包含以下信息： 当前缓冲区指针（current_buffer）当前元素在缓冲区内的位置（current）中控器的位置（map） 每次移动迭代器时，需检查是…...

编程日记 2026/2/14 15:19:16

施磊老师c++(七)

STL组件文章目录 STL组件1.整体学习内容2.vector容器3.deque和listdeque--双端队列容器list--链表容器 4.vector,deque,list对比主要内容面经问题 5.详解容器适配器--stack, queue, priority_queue容器适配器stack-栈queue-队列priority_queue-优先级队列总结 6.无序关联容器关…...

编程日记 2026/2/15 8:24:26

八股文——C 语言宏、`volatile`、`static`、动态内存管理、堆与栈的区别

文章目录 1. #（字符串化操作符）作用：示例： 2. ##（符号连接操作符）作用：示例1：动态生成变量名 3. volatile 关键字作用：示例： 4. static 关键字作用&#xff1…...

编程日记 2026/2/22 4:36:46

C++初阶——类和对象（三）构造函数、析构函数

C初阶——类和对象（三） 上期内容，我们围绕类对象模型的大小计算，成员存储方式，this指针，以及C实现栈和C语言的比较，进一步认识了C的封装特性。本期内容，我们开始介绍类的默认成员函…...

编程日记 2026/3/7 16:46:48

【Function】使用托管身份调用Function App触发器，以增强安全性

推荐超级课程：本地离线DeepSeek AI方案部署实战教程【完全版】Docker快速入门到精通Kubernetes入门到大师通关课AWS云服务快速入门实战目录 1. 背景介绍2. 设置3. 使用Web应用调用Function App触发器（Node.js示例）4. 执行结果此方法允许您使用托管身份(Managed Identity)调…...

编程日记 2026/2/15 18:13:55

x012-MSP430F249智能步进电动百叶窗_proteus_光敏电阻_步进电机_仿真

https://www.dong-blog.fun/post/1997 46 、智能步进电动百叶窗基本要求： 用一台步进电机控制百叶窗叶片的旋转（正转/反转） 用 LED 数码管显示旋转角度设置按键： 手动/自动切换、手动正转和手动反转，停止/启动键用一…...

编程日记 2026/3/6 14:58:03

A小紫的均势博弈判断输入的 n 是奇数还是偶数 import java.io.*; import java.math.*; import java.util.*;public class Main {static IoScanner sc new IoScanner();static final int mod(int) (1e97);static void solve() throws IOException {int nsc.nextInt();if(n%2…...

编程日记 2026/3/2 6:43:38

# RAG 框架 # 一文入门全链路RAG系统构建与优化 —— 架构、策略与实践

本文全面阐述了RAG系统从数据收集、数据清洗（包括领域专有名词处理）、智能数据分块与QA对生成，到向量化、向量数据库选择与配置，再到检索方式及重排序，直至整合输出、监控反馈和安全保障的全流程。通过这一完整方案&am…...

编程日记 2026/3/6 2:08:06

【Golang】第二弹-----变量、基本数据类型、标识符

笔上得来终觉浅,绝知此事要躬行 🔥 个人主页：星云爱编程 🔥 所属专栏：Golang 🌷追光的人，终会万丈光芒 🎉欢迎大家点赞👍评论📝收藏⭐文章目录一、变量 1.1基本介绍…...

编程日记 2026/3/4 16:09:24

c#：使用Modbus RTU协议

Modbus是一种广泛应用于工业自动化领域的通信协议，支持多种传输方式，如RTU、TCP等。其中，Modbus RTU是一种基于串行通信的协议，具有高效、可靠的特点。本文将详细介绍Modbus RTU协议的基本原理，并重点解析功能码0x03&a…...

编程日记 2026/2/25 17:42:23

linux系统CentOS 7版本搭建NFS共享存储

一、什么是NFS共享存储方式 NFS共享存储方式是一种分布式文件系统协议，允许客户端通过网络访问远程服务器上的文件，就像访问本地文件一样。二、 NFS的基本概念 （1）服务器端：提供共享存储的机器，负责导…...

编程日记 2026/3/2 7:11:49

Matlab 基于SVPWM的VF三电平逆变器异步电机速度控制

1、内容简介略 Matlab 167-基于SVPWM的VF三电平逆变器异步电机速度控制可以交流、咨询、答疑 2、内容说明略 3、仿真分析略 4、参考论文略...

编程日记 2026/2/22 9:02:03

Android Dagger2 框架依赖图构建模块深度剖析(三)

一、引言在 Android 开发中，依赖注入（Dependency Injection，简称 DI）是一种重要的设计模式，它能够降低代码的耦合度，提高代码的可测试性和可维护性。Dagger 2 作为一款高效的依赖注入框架，在编…...

编程日记 2026/3/2 10:22:39

（一）微服务初见之 Spring Cloud 介绍

微服务架构简介从单体应用架构发展到SOA架构，再到微服务架构，应用架构经历了多年的不断演进。微服务架构不是凭空产生的，而是技术发展的必然结果，分布式云平台的应用环境使得微服务代替单体应用成为互联网大型系统的架构选择。目…...

编程日记 2026/3/5 8:48:30

python--面试题--基础题

join() 和 split() 函数 join() 函数可以将指定的字符添加到字符串中。 a[my, name, shi, wzngz] print(..join(a)) 输出结果：my.name.shi.wzngz split() 函数可以用指定的字符分割字符串 a"my name shi wzngz " print(a.split()) 输出结果&#xff…...

编程日记 2026/3/9 4:18:10