当前位置： 首页 > news >正文

Demystifying Prompts in Language Models via Perplexity Estimation

news 2026/4/13 16:08:34

Demystifying Prompts in Language Models via Perplexity Estimation

原文链接

Gonen H, Iyer S, Blevins T, et al. Demystifying prompts in language models via perplexity estimation[J]. arXiv preprint arXiv:2212.04037, 2022.

简单来说就是作者通过在不同LLM和不同任务上的实验，发现低困惑度的prompt更能提升LLM的性能，如下图所示，困惑度和acc大致呈一个负相关的趋势。
在这里插入图片描述
作者为了证明自己的猜想，先手写了少量人工prompt，之后交给LLM paraphrase，包括用命令让LLM直接重写以及来回翻译（翻译成别的语言再翻译回来），从而得到了大量prompt。作者之后测试了这些prompt的性能，并计算了困惑度和表现得相似度，基本都是负相关。
在这里插入图片描述
在这里插入图片描述
基于此，作者提出了一种新的prompt方式，也就是先手写，再paraphrase，最后根据困惑度筛选。
在这里插入图片描述

相关文章：

Demystifying Prompts in Language Models via Perplexity Estimation

Demystifying Prompts in Language Models via Perplexity Estimation 原文链接 Gonen H, Iyer S, Blevins T, et al. Demystifying prompts in language models via perplexity estimation[J]. arXiv preprint arXiv:2212.04037, 2022. 简单来说就是作者通过在不同LLM和不同…...

编程日记 2023/8/4 16:01:23

WEB集群——http、tomcat

1. 简述静态网页和动态网页的区别。 2. 简述 Webl.0 和 Web2.0 的区别。 3. 安装tomcat8，配置服务启动脚本，部署jpress应用。 1. 简述静态网页和动态网页的区别。 1）、静态网页 （1）、什么是静态网页 请求响应信息&…...

编程日记 2023/8/4 16:00:20

Socks5代理：网络安全与爬虫之利器

一、Socks5代理：简介与工作原理 Socks5代理，全称为Socket Secure 5代理，是一种允许用户通过代理服务器进行网络连接的技术。它是Socks协议的最新版本，在网络安全和数据传输方面有着显著的优势。 Socks5代理与其他代理的不同之处在…...

编程日记 2023/8/4 15:59:19

如何兼容低版本浏览器

如何兼容低版本浏览器 分为三个部分来说 HTML 低版本浏览器无法识别新增的HTML5元素，如果要兼容这部分浏览器，需要做以下处理： 对于非可替换元素，比如article、section、header、footer等，这种元素虽然低版本浏览器不识…...

编程日记 2023/8/4 15:58:18

【雕爷学编程】MicroPython动手做（39）——机器视觉之图像基础2

MixPY——让爱(AI)触手可及 MixPY布局 主控芯片：K210（64位双核带硬件FPU和卷积加速器的 RISC-V CPU） 显示屏：LCD_2.8寸 320*240分辨率，支持电阻触摸 摄像头：OV2640，200W像素 扬声器&#…...

编程日记 2023/8/4 15:57:17

gitlab搭建

回到目录 GitLab 是一个用于仓库管理系统的开源项目，使用 Git 作为代码管理工具，并在此基础上搭建起来的 Web 服务。 Gitlab 是被广泛使用的基于 git 的开源代码管理平台, 基于 Ruby on Rails 构建, 主要针对软件开发过程中产生的代码和文档进行管理,…...

编程日记 2023/8/4 15:56:15

JMeter 的使用

文章目录 1. JMeter下载2. JMeter的使用2.1 JMeter中文设置2.2 JMeter的使用2.2.1 创建线程组2.2.2 HTTP请求2.2.3 监听器 1. JMeter下载 官网地址 https://jmeter.apache.org/download_jmeter.cgi https://dlcdn.apache.org//jmeter/binaries/apache-jmeter-5.6.2.zip 下载解…...

编程日记 2023/8/4 15:55:14

Java语言 Iterator 如何装换成 List

迭代器如何逆向转换成List集合 在 Java 中，迭代器（Iterator）是一种用于遍历集合中元素的对象，它提供了一种简单而一致的方式来访问集合中的元素，而不需要暴露集合内部的结构。如果我们需要将一个迭代器逆向转换成 Lis…...

编程日记 2023/8/4 15:54:12

国产GOWIN实现低成本实现CSI MIPI转换DVP

CSI MIPI转换DVP，要么就是通用IC操作，如龙讯芯片和索尼芯片，但是复杂的寄存器控制器实在开发太累。对于FPGA操作，大部分都是用xilinx的方案，xilinx方案成本太高，IP复杂。 而用国产GOWIN已经实现了直接mipi …...

编程日记 2023/8/4 15:53:11

Typescript第六章 类型进阶(类型之间的关系，全面性检查，对象类型进阶，函数类型进阶，条件类型等)

文章目录 第六章 类型进阶6.1 类型之间的关系6.1.1 子类型和超类型6.1.2 型变结构和数组型变函数型变 6.1.3 可赋值性6.1.4 类型拓宽const类型多余属性检查 6.1.5 细化辨别并集类型 6.2 全面性检查6.3对象类型进阶6.3.1 对象类型的类型运算符“键入”运算符keyof运算符 6.3.2 R…...

编程日记 2023/8/4 15:52:10

kernel32.dll如何修复，快速解决kernel32.dll缺失的方法

Kernel32.dll是Windows操作系统中一个重要的系统文件，对于系统的正常运行至关重要。然而，由于各种原因，用户可能会遇到kernel32.dll文件的缺失问题。今天小编就来给大家详细的介绍一下kernel32.dll这个文件，并且详细的介绍一下ker…...

编程日记 2023/8/4 15:51:07

初始化前端项目配置 eslint、prettier、husky 等等

每次新项目都要重新配置一遍，有点麻烦，记录一下。 一、配置 ESLint 1.1 核心配置 执行 npm init eslint/config 命令进行初始化，根据提示一路下一步即可，完成后会自动生成 eslintrc 文件并安装相关依赖。 1.2 React 编译模式配…...

编程日记 2023/8/4 15:50:06

嵌入式存储器为AI的实现提供了实现架构

近年来，大脑启发式计算机领域的研究活动获得了巨大的发展。主要原因是试图超越传统的冯诺依曼架构的局限性，后者越来越受存储器-逻辑通信的带宽和等待时间的局限性的影响。在神经形态架构中，内存是分布式的，可以与逻辑共定位。鉴于…...

编程日记 2023/8/4 15:49:05

iOS开发-格式化时间显示刚刚几分钟前几小时前等

iOS开发-格式化时间显示刚刚几分钟前几小时前等 在开发中经常遇到从服务端获取的时间戳，需要转换显示刚刚、几分钟前、几小时前、几天前、年月日等格式。 主要用到了NSCalendar、NSDateComponents这两个类 NSString *result nil;NSCalendarUnit components (NSC…...

编程日记 2023/8/4 15:48:04

ffmpeg视频音频命令

视频音频合并 视频音频合并，以视频时间为主，音频短了循环 方法1：混音，视频权重0，volume调节音量，aloop无限循环，duration:first为第一个素材的长度 ffmpeg -i video.mp4 -i audio.mp3 -filter_…...

编程日记 2023/8/4 15:47:02

Jenkins工具系列 —— Jenkins 安装并启动

文章目录 安装涉及相关链接选择安装Jenkins版本安装JenkinsJenkins web页面启动卸载Jenkins 安装涉及相关链接 Jenkins官网： https://www.jenkins.io/zh/ Jenkins下载安装步骤： https://www.jenkins.io/zh/download/ 安装各种版本OpenJDK： h…...

编程日记 2023/8/4 15:46:00

使用中间人攻击的arp欺骗教程

文章目录 前言一、查看网络接口配置第 1 步：从受害者处获取 IP 配置第 2 步：在 Linux 中打开数据包转发第 3 步：使用 arpspoof 将包重定向到您的计算机步骤4：拦截来自路由器的包裹步骤5：从目标的浏览器历史记录中嗅探图…...

编程日记 2023/8/4 15:44:56

设计模式、Java8新特性实战 - List＜T＞ 抽象统计组件

一、背景 在日常写代码的过程中，针对List集和，统计里面的某个属性，是经常的事情，针对List的某个属性的统计，我们目前大部分时候的代码都是这样写，每统计一个变量，就要定义一个值，且…...

编程日记 2023/8/4 15:43:55

【JavaEE初阶】博客系统后端

文章目录 一. 创建项目 引入依赖二. 设计数据库三. 编写数据库代码四. 创建实体类五. 封装数据库的增删查改六. 具体功能书写1. 博客列表页2. 博客详情页3. 博客登录页4. 检测登录状态5. 实现显示用户信息的功能6. 退出登录状态7. 发布博客 一. 创建项目 引入依赖 创建blog_sy…...

编程日记 2023/8/4 15:42:54

day51-Mybatis-Plus/代码生成器

1.Mybatis-Plus 定义&#xff1a;是一个Mybatis的增强工具&#xff0c;只在Mybatis基础上增强不做改变&#xff0c;简化开发&#xff0c;提升效率 2.MP实战 2.1 创建springboot工程&#xff0c;勾选web&#xff0c;引入依赖 <dependency> <groupId>mysql<…...

编程日记 2023/8/4 15:41:51

The Algorithms - PHP高级数据结构：AVL树、伸展树与字典树的实现

The Algorithms - PHP高级数据结构&#xff1a;AVL树、伸展树与字典树的实现 【免费下载链接】PHP All Algorithms implemented in PHP 项目地址: https://gitcode.com/gh_mirrors/php1/PHP 在计算机科学领域&#xff0c;数据结构是构建高效算法的基础。PHP作为一种广泛…...

编程新知 2026/4/13 15:17:11

终极指南：DeepSeek-OCR如何通过SAM+CLIP双编码器实现高精度文档识别

终极指南&#xff1a;DeepSeek-OCR如何通过SAMCLIP双编码器实现高精度文档识别 【免费下载链接】DeepSeek-OCR Contexts Optical Compression 项目地址: https://gitcode.com/gh_mirrors/de/DeepSeek-OCR DeepSeek-OCR是一款基于SAM&#xff08;Segment Anything Model&…...

编程新知 2026/4/13 12:29:44

Navicat For MySQL 高效使用与合法授权指南

1. 为什么选择正版Navicat for MySQL&#xff1f; 作为一款老牌的数据库管理工具&#xff0c;Navicat for MySQL确实让很多开发者爱不释手。我第一次接触它是在2013年&#xff0c;当时就被它直观的界面和强大的功能惊艳到了。但很多人可能不知道&#xff0c;使用破解版软件就像…...

编程新知 2026/4/13 12:15:15

OpCore Simplify终极指南：3步搞定黑苹果EFI配置，安装效率提升80%

OpCore Simplify终极指南&#xff1a;3步搞定黑苹果EFI配置&#xff0c;安装效率提升80% 【免费下载链接】OpCore-Simplify A tool designed to simplify the creation of OpenCore EFI 项目地址: https://gitcode.com/GitHub_Trending/op/OpCore-Simplify 还在为黑苹果…...

编程新知 2026/4/13 11:47:58

5个技巧让你快速掌握跨平台串口调试工具SerialPortAssistant

5个技巧让你快速掌握跨平台串口调试工具SerialPortAssistant 【免费下载链接】SerialPortAssistant This project is a cross-platform serial port assistant. It can run on WINDOWS, linux、android、macos system. 项目地址: https://gitcode.com/gh_mirrors/se/SerialP…...

编程新知 2026/4/13 11:06:23

Google 迎来「DeepSeek 时刻」：TurboQuant算法实现bit无损、×加速、×压缩、零预处理屹

从 UI 工程师到 AI 应用架构者 13 年前&#xff0c;我的工作是让按钮在 IE6 上对齐&#xff1b; 13 年后&#xff0c;我用 fetch-event-source 订阅大模型的“思维流”&#xff0c;用 OCR 解锁图片中的文字——前端&#xff0c;正在成为 AI 产品的第一道体验防线。 最近&#x…...

编程新知 2026/4/13 10:43:19

网盘下载太慢？这款直链助手让你告别龟速时代

网盘下载太慢&#xff1f;这款直链助手让你告别龟速时代 【免费下载链接】Online-disk-direct-link-download-assistant 一个基于 JavaScript 的网盘文件下载地址获取工具。基于【网盘直链下载助手】修改 &#xff0c;支持 百度网盘 / 阿里云盘 / 中国移动云盘 / 天翼云盘 / 迅…...

编程新知 2026/4/13 9:29:48

ofa_image-caption企业应用：制造业设备巡检图→故障部位+状态英文描述自动生成

ofa_image-caption企业应用&#xff1a;制造业设备巡检图→故障部位状态英文描述自动生成 1. 项目背景与价值 在制造业设备巡检中&#xff0c;每天都会产生大量的设备图像数据。传统的人工巡检图片分析需要经验丰富的工程师逐一查看&#xff0c;不仅效率低下&#xff0c;还容…...

编程新知 2026/4/13 9:11:38

SeqGPT-560M零样本NLP实战：从Prompt设计到结果解析的完整链路

SeqGPT-560M零样本NLP实战&#xff1a;从Prompt设计到结果解析的完整链路 你是不是也遇到过这样的场景&#xff1f;拿到一堆文本数据&#xff0c;想快速把它们分个类&#xff0c;或者从里面提取出关键信息&#xff0c;比如人名、公司名、事件。传统方法要么需要写一堆复杂的规…...

编程新知 2026/4/13 8:37:22

intv_ai_mk11效果展示：机器学习定义、工作效率建议、方案润色等原生输出

intv_ai_mk11效果展示&#xff1a;机器学习定义、工作效率建议、方案润色等原生输出 1. 模型效果概览 intv_ai_mk11是一款基于Llama架构的文本生成模型&#xff0c;特别适合处理日常办公场景中的各类文本任务。通过实际测试&#xff0c;我们发现它在以下几个方面表现尤为出色…...

编程新知 2026/4/13 8:21:04