当前位置： 首页 > news >正文

大模型生成的常见Top-k、Top-p、Temperature参数

news 2026/1/25 17:18:33

参考：
https://zhuanlan.zhihu.com/p/669661536

在这里插入图片描述

topK，topP

https://www.douyin.com/video/7380126984573127945

主要是softmax产生的词表每个词的概率分布后，
topK，比如K=3，表示采样概率最大的前3个，其他全部舍弃，在这前3个词选择
topP，P比如P=0.7，表示采样前面概率最大的加和>=0.7的所有词，后续在这些词中进行再选择，其他舍弃

综合下来：topP一般给后续选择的空间比topK要多些

Temperature

https://www.douyin.com/video/7380324563369889061

主要是在改变 softmax 生成解码token的概率上（所有词表每个词的可能概率）：
正常softmax
在这里插入图片描述

加速Temperature后的softmax
每个指数除以t；e是自然是约等于2.7
在这里插入图片描述

T大于1，越大 softmax生成的每个词的概率差别不大，所以更随机
T小于1，越小 softmax生成的每个词的概率差别大，所以更确认，就是少部分几个词的概率最大
在这里插入图片描述

相关文章：

大模型生成的常见Top-k、Top-p、Temperature参数

参考： https://zhuanlan.zhihu.com/p/669661536 topK，topP https://www.douyin.com/video/7380126984573127945 主要是softmax产生的词表每个词的概率分布后， topK，比如K3，表示采样概率最大的前3个，其他全…...

编程日记 2024/6/17 1:55:02

ppt添加圆角矩形，并调整圆角弧度方法

一、背景 我们看的论文，许多好看的图都是用PPT做的，下面介绍用ppt添加圆角矩形，并调整圆角弧度方法。 二、ppt添加圆角矩形，并调整圆角弧度 添加矩形： 在顶部工具栏中，点击“插入”选项卡。 在“插图”…...

编程日记 2024/6/17 1:52:00

测评要求+基本措施+对应产品

基本要求项测评项基本措施对应产品 网络架构 网络架构 网络架构应保证网络各个部分的带宽满足业务高峰期需要；带宽管理流量控制系统 网络架构 网络架构 网络架构应避免将重要网络区域部署在边界处，重要网络区域与其他网络区域之间应采取可靠的技术隔离手…...

编程日记 2024/6/17 1:50:58

什么是git？

前言 Git 是一款免费、开源的分布式版本控制系统，用于敏捷高效地处理任何或小或大的项目。是的，我对git的介绍就一条，想看简介的可以去百度一下😘😘😘 为什么要用git？ OK，想象一下…...

编程日记 2024/6/17 1:49:57

C/C++中内存开辟与柔性数组

C/C中内存的开辟 在C中，我们都知道有三个区： 1. 栈区（stack）：在执行函数时，函数内局部变量的存储单元都可以在栈上创建，函数执行结 束时这些存储单元自动被释放。栈内存分配运算内置于处理器的指…...

编程日记 2024/6/17 1:44:51

编程App软件优化是什么

编程App软件优化是什么 在数字化时代，编程App软件已成为我们日常生活和工作中不可或缺的一部分。然而，随着技术的不断进步和用户需求的日益多样化，如何对编程App软件进行优化，以提供更高效、更流畅的用户体验，成为了开…...

编程日记 2024/6/17 1:43:50

爱了爱了，11款超良心App推荐！

AI视频生成：小说文案智能分镜智能识别角色和场景批量Ai绘图自动配音添加音乐一键合成视频https://aitools.jurilu.com/今天，我们向你推荐十款与众不同但又不错的win10软件，它们都有各自的功能和优点，相信你一定会喜欢。 1.图片处…...

编程日记 2024/6/17 1:41:47

Linux基础指令（二）（文件、权限等）

目录 普通文件的操作 touch cat 翻页 标准输出重定向： 标准输出重定向种类：​​​​​​​ 管道符：｜ 压缩指令： zip gzip tar Linux下最常见的打包指令 其他系统指令：​​​​​​​ 快捷…...

编程日记 2024/6/17 1:40:45

爆火的治愈系插画工具又来了，额度居然有18w，根本花不完?

AI治愈插画又又又来了 今天给大家推荐一款完全免费的软件，用过的人都说好！ 先来看看我生成的图 制作过程非常简单，输入你想要生成的画面咒语。 工具地址：https://www.qiyuai.net/ 模型目前有两种 我上面的图就是用的第一种通用…...

编程日记 2024/6/17 1:38:43

Qt 实战（4）信号与槽 | 4.3、信号连接信号

文章目录 一、信号连接信号1、什么是信号连接信号？2、如何实现信号连接信号3、总结 前言： 在Qt框架中，信号与槽（Signals and Slots）机制是对象间通信的核心。通常情况下，我们习惯于将信号连接到槽函数上&am…...

编程日记 2024/6/17 1:37:42

Day 16：3040. 相同分数的最大操作数目II

Leetcode 相同分数的最大操作数目II 给你一个整数数组 nums ，如果 nums 至少 包含 2 个元素，你可以执行以下操作中的 任意 一个： 选择 nums 中最前面两个元素并且删除它们。选择 nums 中最后两个元素并且删除它们。选择 nums 中第一个和最后一…...

编程日记 2024/6/17 1:35:38

Go基础编程 - 07 - 字典（map）及其约束

字典（map） 下一篇：结构体1. 声明2. nil 值字典3. 判断某个键是否存在4. 遍历5. delete() 删除键值对6. 约束7. 扩展 上一篇：指针 下一篇：结构体 map 是一种无序的基于 key-value 的数据结构，Go 语言中的 …...

编程日记 2024/6/17 1:34:37

WebSocket 快速入门 与 应用

WebSocket 是一种在 Web 应用程序中实现实时、双向通信的技术。它允许客户端和服务器之间建立持久性的连接，以便可以在两者之间双向传输数据。 以下是 WebSocket 的一些关键特点和工作原理： 0.特点： 双向通信：WebSocket 允许服务…...

编程日记 2024/6/17 1:33:35

使用Spring Cloud设计电商系统架构

在当今互联网高速发展的时代，电子商务系统成为了商家与用户互动的主要方式之一。为了能够更好地应对高并发、可扩展性、灵活性等需求，微服务架构逐渐成为设计电商系统的首选方案。Spring Cloud作为一个成熟的微服务框架，为开发人员提供了一整…...

编程日记 2024/6/17 1:32:34

揭开 Docker 容器的神秘面纱：深入理解容器原理

前言 前几年比较火的是微服务，再然后就是云。讨论技术必谈微服务，要上云，开发出的产品也都是某某云。现在讨论比较少了，因为AI盖过他们。还有就是因为容器技术，现在几乎都是k8s，云原生。要比较快的上手k8s…...

编程日记 2024/6/17 1:31:33

Elasticsearch：Open Crawler 发布技术预览版

作者：来自 Elastic Navarone Feekery 多年来，Elastic 已经经历了几次 Crawler 迭代。最初是 Swiftype 的 Site Search，后来发展成为 App Search Crawler，最近又发展成为 Elastic Crawler。这些 Crawler 功能丰富，允许以…...

编程日记 2024/6/17 1:30:31

C 语言连接MySQL 数据库

前提条件 本机安装MySQL 8 数据库 整体步骤 第一步：开启Windows 子系统安装Ubuntu 22.04.4，安装MySQL 数据库第三方库执行 如下命令： sudo aptitude install libmysqlclient-dev wz2012LAPTOP-8R0KHL88:/mnt/e/vsCode/cpro$ sudo aptit…...

编程日记 2024/6/17 1:28:29

【探索Linux】P.34（HTTPS协议）

阅读导航 引言一、HTTPS是什么1. 什么是"加密"2. 为什么要加密3. 常见的加密方式（1）对称加密（2）非对称加密 二、证书认证1. CA认证 三、HTTPS的加密底层原理✅非对称加密对称加密证书认证 温馨提示 引言 在上一篇文章中…...

编程日记 2024/6/17 1:27:27

Python 踩坑记 -- 调优

前言 继续解决问题 慢 一个服务运行有点慢，当然 Python 本身不快，如果再编码不当那这个可能就是量级上的劣化。 整个 Code 主线逻辑 1700，各依赖封装 3000，主线逻辑也是很久远的痕迹，长函数都很难看清楚一个 if els…...

编程日记 2024/6/17 1:24:23

英特尔澄清：Core i9处理器崩溃问题根本原因仍在调查，eTVB非主因

英特尔否认了有关已找到导致Core i9崩溃问题根本原因的报道，强调调查仍在继续。此前，德国媒体Igors Lab曾报道，英特尔已经发现了影响第13代猛禽湖（Raptor Lake）和第14代猛禽湖Refresh Core i9处理器稳定性的根源问题&a…...

编程日记 2024/6/17 1:21:19

XML Group端口详解

在XML数据映射过程中，经常需要对数据进行分组聚合操作。例如，当处理包含多个物料明细的XML文件时，可能需要将相同物料号的明细归为一组，或对相同物料号的数量进行求和计算。传统实现方式通常需要编写脚本代码，增加了开…...

编程新知 2026/1/25 1:12:16

铭豹扩展坞 USB转网口 突然无法识别解决方法

当 USB 转网口扩展坞在一台笔记本上无法识别，但在其他电脑上正常工作时，问题通常出在笔记本自身或其与扩展坞的兼容性上。以下是系统化的定位思路和排查步骤，帮助你快速找到故障原因： 背景： 一个M-pard（铭豹）扩展坞的网卡突然无法识别了，扩展出来的三个USB接口正常。…...

编程新知 2026/1/25 1:12:16

Vue记事本应用实现教程

文章目录 1. 项目介绍2. 开发环境准备3. 设计应用界面4. 创建Vue实例和数据模型5. 实现记事本功能5.1 添加新记事项5.2 删除记事项5.3 清空所有记事 6. 添加样式7. 功能扩展：显示创建时间8. 功能扩展：记事项搜索9. 完整代码10. Vue知识点解析10.1 数据绑…...

编程新知 2025/9/20 5:20:12

P3 QT项目----记事本（3.8）

3.8 记事本项目总结 项目源码 1.main.cpp #include "widget.h" #include <QApplication> int main(int argc, char *argv[]) {QApplication a(argc, argv);Widget w;w.show();return a.exec(); } 2.widget.cpp #include "widget.h" #include &q…...

编程新知 2026/1/20 3:37:02

python执行测试用例，allure报乱码且未成功生成报告

allure执行测试用例时显示乱码&#xff1a;‘allure’ &#xfffd;&#xfffd;&#xfffd;&#xfffd;&#xfffd;ڲ&#xfffd;&#xfffd;&#xfffd;&#xfffd;ⲿ&#xfffd;&#xfffd;&#xfffd;Ҳ&#xfffd;&#xfffd;&#xfffd;ǿ&#xfffd;&am…...

编程新知 2026/1/19 2:42:53

如何在网页里填写 PDF 表格？

有时候&#xff0c;你可能希望用户能在你的网站上填写 PDF 表单。然而&#xff0c;这件事并不简单&#xff0c;因为 PDF 并不是一种原生的网页格式。虽然浏览器可以显示 PDF 文件&#xff0c;但原生并不支持编辑或填写它们。更糟的是&#xff0c;如果你想收集表单数据&#xff…...

编程新知 2026/1/23 11:38:37

中医有效性探讨

文章目录 西医是如何发展到以生物化学为药理基础的现代医学&#xff1f;传统医学奠基期&#xff08;远古 - 17 世纪&#xff09;近代医学转型期&#xff08;17 世纪 - 19 世纪末&#xff09;​现代医学成熟期&#xff08;20世纪至今&#xff09; 中医的源远流长和一脉相承远古至…...

编程新知 2026/1/23 7:56:54

vulnyx Blogger writeup

信息收集 arp-scan nmap 获取userFlag 上web看看 一个默认的页面&#xff0c;gobuster扫一下目录 可以看到扫出的目录中得到了一个有价值的目录/wordpress&#xff0c;说明目标所使用的cms是wordpress&#xff0c;访问http://192.168.43.213/wordpress/然后查看源码能看到 这…...

编程新知 2026/1/24 19:08:23

Selenium常用函数介绍

目录 一&#xff0c;元素定位 1.1 cssSeector 1.2 xpath 二&#xff0c;操作测试对象 三&#xff0c;窗口 3.1 案例 3.2 窗口切换 3.3 窗口大小 3.4 屏幕截图 3.5 关闭窗口 四&#xff0c;弹窗 五&#xff0c;等待 六&#xff0c;导航 七&#xff0c;文件上传 …...

编程新知 2026/1/24 19:10:17

08. C#入门系列【类的基本概念】：开启编程世界的奇妙冒险

C#入门系列【类的基本概念】&#xff1a;开启编程世界的奇妙冒险 嘿&#xff0c;各位编程小白探险家&#xff01;欢迎来到 C# 的奇幻大陆&#xff01;今天咱们要深入探索这片大陆上至关重要的 “建筑”—— 类&#xff01;别害怕&#xff0c;跟着我&#xff0c;保准让你轻松搞…...

编程新知 2025/10/31 20:37:10