当前位置： 首页 > news >正文

Quiet-STaR:让语言模型在“说话”前思考

news 2026/3/26 23:23:17

大型语言模型(llm)已经变得越来越复杂，能够根据各种提示和问题生成人类质量的文本。但是他们的推理能力让仍然是个问题，与人类不同LLM经常在推理中涉及的隐含步骤中挣扎，这回导致输出可能在事实上不正确或缺乏逻辑。

考虑以下场景:正在阅读一个复杂的数学证明。虽然最终的答案可能很清楚，但关键在于理解初始条件和结论之间未说明的步骤。在交谈中也一样，我们依靠中间的假设和背景知识来理解所说的话。这种内隐的推理的能力是Quiet-STaR为LLM提供的能力。

自学推理器(STaR)

先前的研究已经发明了STaR：一种LLM通过从问答示例中推断基本原理来学习推理的技术。但是STaR仅限于特定的任务，并且需要访问预先存在的答案-基本原理对。而Quiet-STaR建立在STaR的基础上，使LLM能够为他们生成的任何文本生成基本原理，使推理过程更加通用和适用。

挑战与解决方案

实现Quiet-STaR有几个挑战。为每个单词生成基本原理在计算上是非常昂贵的。并且LLM本身就缺乏产生或利用这些内在思想的能力。最后Quiet-STaR不仅需要预测下一个单词，还需要考虑文本中更长期的依赖关系。

Quiet-STaR背后的研究人员通过一系列创新技术来解决这些挑战:

令牌并行抽样:采用了一种独特的抽样算法，其中LLM在文本旁边生成基本原理，一次一个令牌(单词)。

可学习的思想令牌:在生成的文本中引入了特殊的符号令牌来表示基本原理的开始和结束。随着时间的推移，LLM学会有效地使用这些令牌。

加强教师指导:使用了一种改进的教师指导技术来指导LLM确保正确的输出文本和相应的基本原理。

Quiet-STaR的流程如下：

Quiet-STaR的好处

1、Quiet-STaR有助于LLM在句子中预测具有挑战性的单词。这些理由提供了额外的上下文，使LLM能够做出更加明智的预测。

2、使用Quiet-STaR训练的LLM在直接回答困难问题方面表现出显著改进。理由引发的推理过程使LLM更有效地处理复杂问题。

3、Quiet-STaR导致推理基准（GSM8K和CommonsenseQA）上的性能提升，而无需在这些特定任务上进行任何微调。这表明LLM将其推理能力推广到未见问题，提升了零样本性能

4、Quiet-STaR明显降低了困惑度，这是一个指示预测序列中下一个单词难度的度量。这表明理由使得LLM的整体文本生成过程更加顺畅和高效。

总结

Quiet-STaR代表了LLM发展的重大进步。通过使它们能够生成理由并经过与文本生成相关的步骤进行推理，Quiet-STaR为更可靠、准确并且能够处理复杂任务的LLM铺平了道路。

目前的研究侧重于文本理由。未来的工作可以探索将其他形式的理由纳入其中，例如视觉或符号表示。将理由生成与可解释AI技术结合可以使LLM不仅能够生成理由，还能够向用户解释其推理过程，增进信任和透明度。Quiet-STaR可以通过将领域特定的知识源纳入到理由生成过程中来进一步针对特定任务进行定制。

论文地址：Quiet-STaR: Language Models Can Teach Themselves to Think Before Speaking

https://avoid.overfit.cn/post/1ea458c86cf14b45ac219e7d7e82cdc4

相关文章：

Quiet-STaR:让语言模型在“说话”前思考

大型语言模型(llm)已经变得越来越复杂，能够根据各种提示和问题生成人类质量的文本。但是他们的推理能力让仍然是个问题，与人类不同LLM经常在推理中涉及的隐含步骤中挣扎，这回导致输出可能在事实上不正确或缺乏逻辑。 考虑以下场景:正在阅读一…...

编程日记 2024/4/4 19:47:23

【Kotlin】匿名类和伴生类

1 匿名类 1）无继承 fun main() {var obj object {var name: String "zhang"override fun toString(): String {return name}}println(obj) // zhang } 2）有继承 fun main() {var obj object: People {var name: String "zhang"…...

编程日记 2024/4/4 19:45:21

【机器学习算法介绍】（3）决策树

决策树是一种常见的机器学习算法，用于分类和回归任务。它模拟了人类决策过程，通过一系列的问题来引导决策。决策树的构建涉及三个主要步骤：特征选择、树的构建和树的剪枝。 1. 特征选择 特征选择是决策树构建过程中的第一步，目的…...

编程日记 2024/4/4 19:43:19

算法之查找

1、顺序查找： package com.arithmetic.search; //顺序查找 //sequentialSearch 方法接收一个整数数组和一个目标元素作为参数，并使用顺序查找的方式在数组中查找目标元素。 //它通过循环遍历数组元素，逐个与目标元素比较，如果找到…...

编程日记 2024/4/4 19:39:15

LInux脚本学习

1.注释 #单行注释 以 # 字符开头就是单行注释 当然第一行除外，比较特殊 2.多行注释 3.Shell文件的作用 Shell文件就是linux命令集 4.sh脚本的执行方式 bash xxx.sh 5.新建的文件会没有执行权限 #为文件赋予执行权限 chmod ux xxx.sh 6.编写规范 #!/bin/bash #…...

编程日记 2024/4/4 19:35:11

JavaWeb基础（计网 socket 数据库 JDBC lombok Mybatis JUnit Maven）

本文用于检验学习效果，忘记知识就去文末的链接复习 1. 网络基础 1.1 计网基础 区分设备：IP地址 区分网络：网络地址 网络互联：路由器 主机上进程间通信：端口 http是常用的协议，基于TCP协议 TCP VS U…...

编程日记 2024/4/4 19:31:08

【HBase】

什么是HBase HBase是Google Bigtable的开源实现,类似Google Bigtable利用GFS作为其文件存储系统,HBase利用Hadoop HDFS作为其文件存储系统;Google运行MapReduce来处理Bigtable中的海量数据,HBase同样利用Hadoop MapReduce来处理HBase中的海量数据。 访问层次（数据…...

编程日记 2024/4/4 19:29:06

Vue3：使用Pinia存储、读取、修改数据

一、存储数据 Pinia插件中，存储数据的配置项是state count.ts import {defineStore} from piniaexport const useCountStore defineStore(count,{// 真正存储数据的地方state(){return {sum:6}} })loveTalk.ts import {defineStore} from piniaexport const use…...

编程日记 2024/4/4 19:25:01

基于 Quartz.NET 可视化任务调度平台 QuartzUI

一、简介 QuartzUI 是基于 Quartz.NET3.0 的定时任务 Web 可视化管理，Docker 打包开箱即用、内置 SQLite 持久化、语言无关、业务代码零污染、支持 RESTful 风格接口、傻瓜式配置、异常请求邮件通知等。 二、部署 QuartzUI 从 2022 年到现在没有提交记录&#xf…...

编程日记 2024/4/4 19:22:59

前端三剑客 —— CSS （第三节）

目录 上节回顾： 1.CSS使用有以下几种样式; 2.选择器 1.基本选择器 2.包含选择器 3.属性选择器 [] 4.伪类选择器 ： 5.伪元素选择器 ::before :after 3.常见样式的使用 常见样式参考表 一些特殊样式 媒体查询 自定义字体 变换效果 translate&…...

编程日记 2024/4/4 19:20:57

C# 系统学习（异步编程）

在C#中，异步编程是一种优化程序性能的关键技术，特别是在处理I/O密集型操作（如网络请求、数据库查询、文件读写等）时，能够有效避免由于长时间等待而导致的线程阻塞，从而提高应用的响应速度和资源利用率。asy…...

编程日记 2024/4/4 19:19:56

前端工程师————CSS学习

选择器分类 选择器分为基础选择器和复合选择器 基础选择器包括：标签选择器，类选择器，id选择器，通配符选择器标签选择器 类选择器 语法：.类名{属性1： 属性值；} 类名可以随便起 多类名使用方式&am…...

编程日记 2024/4/4 19:15:51

C# 登录界面代码

背景 MVVM 是一种软件架构模式，用于创建用户界面。它将用户界面（View）、业务逻辑（ViewModel）和数据模型（Model）分离开来，以提高代码的可维护性和可测试性。 MainWindow 类是 View&a…...

编程日记 2024/4/4 19:12:49

点云的Python均值采样

一、代码 Python import numpy as np import open3d as o3ddef mean_sampling(point_cloud, num_samples=None, depth=None, method=knn, k=10):"""对点云进行均值下采样。:param point_cloud: Open3D PointCloud对象:param num_samples: (仅当method=knn时使…...

编程日记 2024/4/4 19:08:46

xss-labs 11-13通关记录

前言 最近复习xss知识&#xff0c;整理一下xss的绕过思路。 level11 观察测试: 1.四个隐藏参数标签 2.全部get传参一遍发现t_sort可赋值&#xff0c;使用的是get传参 3.针对t_sort测试过滤的字符 t_sort< > & ; " 检测到他除了<>,别的全部过滤。 因为…...

编程日记 2024/4/4 19:07:44

Unity类银河恶魔城学习记录12-2 p124 Character Stats UI源代码

Alex教程每一P的教程原代码加上我自己的理解初步理解写的注释&#xff0c;可供学习Alex教程的人参考 此代码仅为较上一P有所改变的代码 【Unity教程】从0编程制作类银河恶魔城游戏_哔哩哔哩_bilibili UI_Statslot.cs using System.Collections; using System.Collections.Gen…...

编程日记 2024/4/4 19:04:41

技术揭秘：如何打造完美互动的充电桩硬件与服务平台？

充电桩平台全套源码地址 https://gitee.com/chouleng/cdzkjjh.git 这张图像是一个系统或服务的架构图。以下是对图中各个部分的描述&#xff1a; 前端&#xff1a; 位于图像的顶部&#xff0c;颜色为浅绿色。用户服务端&#xff1a; 紧邻前端&#xff0c;颜色为淡黄色。设备服…...

编程日记 2024/4/4 19:01:39

【Django学习笔记（四）】JavaScript 语言介绍

JavaScript 语言介绍 前言正文1、JavaScript 小案例2、代码位置2.1 在当前 HTML 文件中2.2 在其他 js 文件中 3、代码注释3.1 HTML的注释3.2 CSS的注释3.3 Javascript的注释 4、变量 & 输出4.1 字符串4.2 数组4.3 对象(python里的字典) 5、条件语句6、函数7、DOM7.1 根据 I…...

编程日记 2024/4/4 18:58:37

IO和NIO的主要区别在哪里？

Java 中的 IO&#xff08;输入/输出&#xff09;和 NIO&#xff08;新输入/输出&#xff09;都是处理输入和输出操作的方式&#xff0c;它们的主要区别在于如何处理数据的读写。 阻塞与非阻塞: IO是阻塞的&#xff0c;这意味着当一个线程调用read()或write()时&#xff0c;该线…...

编程日记 2024/4/4 18:56:35

爬虫部署平台crawlab使用说明

Crawlab 是一个基于 Go 语言的分布式网络爬虫管理平台&#xff0c;它支持 Python、Node.js、Jar、EXE 等多种类型的爬虫。 Crawlab 提供了一个可视化的界面&#xff0c;并且可以通过简单的配置来管理和监控爬虫程序。 以下是 Crawlab 的一些主要优点&#xff1a; 集中管理&am…...

编程日记 2024/4/4 18:55:34

实测2-5分钟：CogVideoX-2b生成速度与画质平衡的真实体验报告

实测2-5分钟&#xff1a;CogVideoX-2b生成速度与画质平衡的真实体验报告 1. 从文字到视频&#xff1a;CogVideoX-2b能做什么&#xff1f; 想象一下&#xff0c;你只需要输入一段文字描述&#xff0c;就能在几分钟内获得一段6秒的高清视频。这不是科幻电影里的场景&#xff0c…...

编程新知 2026/3/26 23:14:54

N诺机试题

2.整除&#xff08;末尾无空格用printf“ ”&#xff09;#include<stdio.h>int main(){int count0;for(int i100;i<1000;i){if(i%50&&i%60){printf("%d",i);count;if(count%100) printf("\n");else printf(" "); }}return 0;…...

编程新知 2026/3/26 22:38:21

js06----流程控制

目录 2.4.1、顺序流程控制 2.4.2、分支流程控制 &#xff08;1&#xff09;if分支语句&#xff08;条件判断语句&#xff09; &#xff08;2&#xff09;if....else...语句 需求1&#xff1a; 需求2&#xff1a; &#xff08;3&#xff09;if...else if...else语句&…...

编程新知 2026/3/26 22:02:04

staticFunctional：嵌入式零堆内存的std::function替代方案

1. staticFunctional&#xff1a;嵌入式系统中零动态内存开销的 std::function 替代方案1.1 设计动因与工程痛点在资源受限的嵌入式系统&#xff08;如 ARM Cortex-M0/M4、AVR、ESP32、Teensy 系列&#xff09;中&#xff0c;std::function的标准实现存在根本性兼容障碍。其典型…...

编程新知 2026/3/26 21:50:03

智能内容解锁工具：5分钟掌握付费墙突破技巧

智能内容解锁工具&#xff1a;5分钟掌握付费墙突破技巧 【免费下载链接】bypass-paywalls-chrome-clean 项目地址: https://gitcode.com/GitHub_Trending/by/bypass-paywalls-chrome-clean 在数字信息时代&#xff0c;优质内容常被付费墙阻隔&#xff0c;而bypass-payw…...

编程新知 2026/3/26 21:48:02

Spigot服务器搭建后，别忘了做这5件事：优化、备份、插件与安全基础设置

Spigot服务器搭建后必做的5项关键优化与安全设置 当你第一次看到Spigot服务器成功启动时&#xff0c;那种成就感确实令人兴奋。但很快你会发现&#xff0c;一个能运行的基础服务器和真正稳定、高效、安全的游戏环境之间&#xff0c;还有不小的距离。很多新手服主在这个阶段容易…...

编程新知 2026/3/26 21:42:01

如何快速下载网易云音乐双语歌词：LrcHelper完整指南

如何快速下载网易云音乐双语歌词&#xff1a;LrcHelper完整指南 【免费下载链接】LrcHelper 从网易云音乐下载带翻译的歌词 Walkman 适配 项目地址: https://gitcode.com/gh_mirrors/lr/LrcHelper LrcHelper是一款专门为网易云音乐用户设计的免费歌词下载工具&#xff0…...

编程新知 2026/3/26 21:25:58

告别移植头疼！用STM32CubeMX快速复用正点原子LCD库的3个关键步骤

告别移植头疼&#xff01;用STM32CubeMX快速复用正点原子LCD库的3个关键步骤 在嵌入式开发中&#xff0c;复用成熟的驱动代码是提升效率的关键。正点原子的LCD库因其稳定性和易用性广受欢迎&#xff0c;但在STM32CubeMX生成的HAL工程中直接使用却常常遇到各种兼容性问题。本文将…...

编程新知 2026/3/26 20:29:45

APT41 (Barium) 的演进：从游戏行业到供应链攻击的AI应用

前言 1. 技术背景 —— 这个技术在攻防体系中的位置 高级持续性威胁 (Advanced Persistent Threat, APT) 是网络攻防体系金字塔的顶端。它并非指某种单一技术&#xff0c;而是一个复杂的、有组织的、长期的网络攻击活动集合。在整个攻防图谱中&#xff0c;APT代表着最高级别的对…...

编程新知 2026/3/26 19:00:45

Comsol热流耦合拓扑优化：最大化放热量与功率耗散的探索

Comsol热流耦合拓扑优化。 目标函数采用最大化放热量和功率耗散。在工程领域&#xff0c;热流耦合问题一直是研究的重点&#xff0c;尤其是如何通过拓扑优化来实现特定目标&#xff0c;比如最大化放热量和功率耗散&#xff0c;这对于提高系统性能至关重要。而Comsol作为一款强大…...

编程新知 2026/3/26 18:56:40