当前位置： 首页 > news >正文

[论文笔记]Prefix Tuning

news 2026/3/28 13:55:27

引言

今天带来微调LLM的第二篇论文笔记Prefix-Tuning。

作者提出了用于自然语言生成任务的prefix-tuning(前缀微调)的方法，固定语言模型的参数而优化一些连续的任务相关的向量，称为prefix。受到了语言模型提示词的启发，允许后续的token序列注意到这些prefix，当成虚拟token。

只需要修改0.1%的参数量，在全量数据设定下，前缀微调能获得较好的效果；而在少数据设定下，它的表示甚至超过了全量微调，并且泛化能力更好。

总体介绍

全量微调需要保存原始模型的完全参数拷贝，这是非常耗费资源的。一种解决这个问题的自然选择是轻量微调(lightweight fine-tuning)，固定住大多数参数仅调整少部分。比如我们上次介绍的Adapter微调通过插入任务相关的额外层，在自然语言理解和生成任务上获得了不错的表现。

GPT-3通过上下文学习(in-context learning)，一种提示词的形式，不需要调整任何LM的参数。比如针对摘要任务的TL;DR，以及添加少部分样本到输入中，然后LM生成任务相关的输出。然而这种方法受限于输入的长度，上下文学习只能限定少量的训练样本。

image-20230919151015960

考虑生成一个关于表格数据描述内容的任务，如图1所示。输入是一个线性的表格，比如name: Starbucks | type: coffee s

相关文章：

[论文笔记]Prefix Tuning

引言 今天带来微调LLM的第二篇论文笔记Prefix-Tuning。 作者提出了用于自然语言生成任务的prefix-tuning(前缀微调)的方法，固定语言模型的参数而优化一些连续的任务相关的向量，称为prefix。受到了语言模型提示词的启发，允许后续的token序列注意到这些prefix，当成虚拟toke…...

编程日记 2023/9/27 8:02:12

electron快速入门

新建electronstu01文件夹 以管理员身份运行powershell，切换到该文件下 npm init -y安装依赖包 npm install --save-dev electron失败 npm install -g cnpm --registryhttps://registry.npm.taobao.org cnpm install --save-dev electron修改 package.json &qu…...

编程日记 2023/9/27 8:00:11

C语言的stdio.h的介绍

C语言的stdio.h的介绍 C语言的stdio.h的介绍 C语言的stdio.h的介绍C语言stdio.h的介绍 C语言stdio.h的介绍 这个含义是导入标准输入输出库 包含头文件.h&#xff0c;std标准库&#xff0c;io是input output输入输出库 <>代表系统库&#xff0c;自定义的话用""…...

编程日记 2023/9/27 7:59:10

使用香橙派 在Linux环境中安装并学习Python

前言 在实际项目中&#xff0c;经常会遇到需要使用人工智能的场景&#xff0c;如人脸识别&#xff0c;车牌识别等...其一般的流程就是由单片机采集数据发送给提供人工智能算法模型的公司&#xff08;百度云&#xff0c;阿里云...&#xff09;&#xff0c;然后人工智能将结果回…...

编程日记 2023/9/27 7:57:08

如何开发物联网 APP?

如何开发物联网 APP? 这个问题本身是不严谨的&#xff0c;APP只是手机端的一个控制或者用于显示的人机交互页面&#xff0c;物联网是通过传感器&#xff0c;物联网卡等模块把物体接入网络以方便远程监控或者控制等。 你问的应该是怎么开发出来一个远程控制物体的APP吧&#x…...

编程日记 2023/9/27 7:55:06

配置pytorchGPU虚拟环境-python3.7

cuda版本的pytorch包下载地址戳这里 winR->输入cmd->输nvcc -V回车 cuda 11.0 输入以下命令来查找 CUDA 的安装路径&#xff1a; Windows: where nvcc 输入以下命令来查找 cuDNN 的版本号&#xff1a; Windows: where cudnn* cuDNN 8.0 本机安装的是cuda 11.0&…...

编程日记 2023/9/27 7:54:06

Logic Pro X10.7.9(mac乐曲制作软件)

Logic Pro X是由苹果公司开发的一款专业音频制作软件&#xff0c;主要用于音乐制作、录音、混音和母带处理等方面。以下是Logic Pro X的特点&#xff1a; 强大的音频编辑功能&#xff1a;Logic Pro X提供了丰富的音频编辑工具&#xff0c;包括波形编辑器、音频自动化、时间拉伸…...

编程日记 2023/9/27 7:53:05

第一部分：HTML5

目录 一&#xff1a;网页 1.1&#xff1a;什么是网页&#xff1f; 1.2&#xff1a;什么是HTML&#xff1f; 1.3&#xff1a;网页的形成 二&#xff1a;常用浏览器 三&#xff1a;Web标准 3.1&#xff1a;为什么需要Web标准&#xff1f; 3.2&#xff1a;Web标准的构成 四&a…...

编程日记 2023/9/27 7:51:03

Linux 基础入门

目录 一、计算机 1、组成 2、功能 二、操作系统 1、定义 2、主要工作 3、操作系统内核功能 4、常见的操作系统 三、Linux的组成 四、搭建Linux学习环境 五、安装远程连接Linux的软件 1、安装xshell 2、安装mobaxterm 六、Linux操作系统学习大纲 一、计算机 1、组…...

编程日记 2023/9/27 7:50:02

【数据结构】插入排序：直接插入排序、折半插入排序、希尔排序的学习知识总结

目录 1、排序的基本概念 2、直接插入排序 2.1 算法思想 2.2 代码实现 3、折半插入排序 3.1 算法思想 3.2 代码实现 4、希尔排序 4.1 算法思想 4..2 代码实现 1、排序的基本概念 排序是将一组数据按照预定的顺序排列的过程&#xff0c;排序的基本概念包括以下内容…...

编程日记 2023/9/27 7:49:01

Magic Battery for Mac：让你的设备电量管理变得轻松简单

Mac电脑用户们&#xff0c;你们是否曾经为了给设备充电而感到烦恼&#xff1f;是否希望能够方便地查看连接设备的电量情况&#xff1f;现在&#xff0c;有了Magic Battery for macOS&#xff0c;这些问题都将成为过去&#xff01; Magic Battery是一个实用的应用程序&#xff…...

编程日记 2023/9/27 7:48:00

nodejs+vue大学食堂订餐系统elementui

可以查看会员信息&#xff0c;录入新的会员信息&#xff0c;对会员的信息进行管理。 网站管理模块对整个网站中的信息进行管理&#xff0c;可以查看会员留在留言栏中的信息&#xff0c;设置网站中的参数等。用户管理模块主要实现用户添加、用户修改、用户删除等功能。 近年来&…...

编程日记 2023/9/27 7:45:58

nat综合实验

路漫漫其修远兮,吾将上下而求索。 实验目的如图 实验思路&#xff1a;配置内网&#xff0c;再配置外网&#xff0c;再做nat clien1配置 clien2配置 pc3配置 lsw1配置 sysname lsw1 # vlan batch 10 20 30 # interface MEth0/0/1 # interface Eth-Trunk1port link-type trunkp…...

编程日记 2023/9/27 7:44:57

【iOS逆向与安全】好用的一套 TCP 类

初始化 //页面 %hook xxxxxxxViewController//- (void)viewWillAppear:(BOOL)animated{ //NSLog("View Will Appear&#xff0c;再次进入刷新"); - (void)viewDidLoad{//启动tcp[[Xddtcp sharedTcpManager] connectServer] ;} 发送数据 //发送数据 [[Xddtcp shared…...

编程日记 2023/9/27 7:43:56

Ubuntu Kafka开机自启动服务

1、创建service文件 在/lib/systemd/system目录下创建kafka.service文件 [Unit] DescriptionApache Kafka Server Documentationhttp://kafka.apache.org/documentation.html Requireszookeeper.service[Service] Typesimple Environment"JAVA_HOME/usr/local/programs/j…...

编程日记 2023/9/27 7:42:55

c#实现单例模式的两种方法（饿汉式、懒汉式）

在C#中&#xff0c;可以使用以下几种方式来实现单例模式&#xff1a; 饿汉式单例模式&#xff08;Eager Singleton&#xff09;&#xff1a; 在类加载时就创建实例。私有化构造函数&#xff0c;防止外部实例化。提供一个静态的只读属性来获取实例。代码示例&#xff1a; // 在C…...

编程日记 2023/9/27 7:39:53

Git与Repo：开源开发的得力工具组合

Git与Repo&#xff1a;开源开发的得力工具组合 1. 引言 开源开发在当今的软件行业中扮演着至关重要的角色。它不仅推动了技术的创新和进步&#xff0c;也促进了开发者之间的合作与共享。随着越来越多的开源项目的涌现&#xff0c;有效的代码管理和版本控制成为了必不可少的工…...

编程日记 2023/9/27 7:38:51

centos7 添加网卡设置动态ip，修改网卡为任意名称

centos7 添加网卡并设置动态ip&#xff0c;重命名为任意名称 本文记录如何在centos环境上增加两个网卡&#xff0c;并设置为动态获取ip&#xff0c;以及修改网卡名称为任意名称 1、centos7添加两个网卡动态获取ip 1.1 vmvare上添加网络适配器 1、关闭虚拟机 2、 添加网络适…...

编程日记 2023/9/27 7:36:49

计算机竞赛 深度学习人脸表情识别算法 - opencv python 机器视觉

文章目录 0 前言1 技术介绍1.1 技术概括1.2 目前表情识别实现技术 2 实现效果3 深度学习表情识别实现过程3.1 网络架构3.2 数据3.3 实现流程3.4 部分实现代码 4 最后 0 前言 &#x1f525; 优质竞赛项目系列&#xff0c;今天要分享的是 &#x1f6a9; 深度学习人脸表情识别系…...

编程日记 2023/9/27 7:35:48

nvm安装后node或npm不是内部或外部命令

nvm安装后出现node或npm不是内部或外部命令 进行以下步骤解决 找到nvm安装所在位置&#xff0c;新建一个空的nodejs文件夹 打开 windowr —> sysdm.cpl —> 高级 —>环境变量 将下图中两个位置的地址改成刚刚新建的nodejs空文件夹所在的位置 nvm安装后都是会自动添加…...

编程日记 2023/9/27 7:33:46

SLAM Toolbox完整指南：从零开始掌握机器人定位与建图技术

SLAM Toolbox完整指南&#xff1a;从零开始掌握机器人定位与建图技术 【免费下载链接】slam_toolbox Slam Toolbox for lifelong mapping and localization in potentially massive maps with ROS 项目地址: https://gitcode.com/gh_mirrors/sl/slam_toolbox 想象一下&a…...

编程新知 2026/3/28 11:45:38

手机助手新选择：DeepSeek-R1-Distill-Qwen-1.5B边缘计算实测分享

手机助手新选择&#xff1a;DeepSeek-R1-Distill-Qwen-1.5B边缘计算实测分享 1. 引言&#xff1a;边缘计算的新选择 在移动设备上运行大语言模型一直是技术挑战&#xff0c;传统方案要么性能不足&#xff0c;要么资源消耗过大。DeepSeek推出的R1-Distill-Qwen-1.5B模型改变了…...

编程新知 2026/3/28 11:43:33

Wan2.1 VAE网络安全应用：生成对抗性样本以测试图像识别系统鲁棒性

Wan2.1 VAE网络安全应用&#xff1a;生成对抗性样本以测试图像识别系统鲁棒性 1. 引言 想象一下&#xff0c;你公司新部署了一套人脸识别门禁系统&#xff0c;号称准确率高达99.9%。但某天&#xff0c;一个员工只是戴了一副造型奇特的眼镜&#xff0c;系统就把他识别成了另一…...

编程新知 2026/3/28 11:37:27

【毕业设计】SpringBoot+Vue+MySQL 兴顺物流管理系统平台源码+数据库+论文+部署文档

摘要 随着电子商务和全球贸易的快速发展&#xff0c;物流行业在现代经济体系中的重要性日益凸显。高效、智能的物流管理系统能够显著提升企业的运营效率&#xff0c;降低管理成本&#xff0c;并优化客户体验。然而&#xff0c;传统的物流管理方式仍存在信息孤岛、数据冗余、流程…...

编程新知 2026/3/28 11:31:25

窗口大小强制调整工具终极指南：如何轻松掌控任意应用程序窗口尺寸

窗口大小强制调整工具终极指南&#xff1a;如何轻松掌控任意应用程序窗口尺寸 【免费下载链接】WindowResizer 一个可以强制调整应用程序窗口大小的工具 项目地址: https://gitcode.com/gh_mirrors/wi/WindowResizer 还在为那些顽固的应用程序窗口而烦恼吗&#xff1f;某…...

编程新知 2026/3/28 11:13:16

为什么92%的Python低代码平台不敢暴露内核？：深度解析GIL绕过策略、上下文感知缓存与热重载原子切换机制

第一章&#xff1a;Python低代码平台内核不透明的产业困局在当前企业数字化加速落地的背景下&#xff0c;Python生态衍生出大量低代码平台&#xff08;如Streamlit Cloud、Gradio Spaces、Dash Enterprise&#xff09;&#xff0c;它们以“拖拉拽少量Python脚本”为卖点&#x…...

编程新知 2026/3/28 10:39:01

5步搞定Jimeng LoRA部署：轻量文生图测试系统快速上手

5步搞定Jimeng LoRA部署&#xff1a;轻量文生图测试系统快速上手 1. 项目概述与核心优势 Jimeng LoRA是一款专为LoRA模型测试优化的轻量化文本生成图像系统。基于Z-Image-Turbo底座构建&#xff0c;它实现了单次底座加载、动态LoRA热切换的创新功能&#xff0c;大幅提升了模型…...

编程新知 2026/3/28 10:30:59

Tessent Shell双Pass插入策略深度解读：为什么MemoryBIST要先于EDT/OCC插入？

Tessent Shell双Pass插入策略&#xff1a;MemoryBIST优先于EDT/OCC的技术本质解析 在芯片测试领域&#xff0c;Tessent Shell的双Pass插入流程&#xff08;Two-Pass Insertion Process&#xff09;是一个被广泛采用却鲜少深入探讨的核心方法论。当工程师首次接触"先Memory…...

编程新知 2026/3/28 10:18:47

效率倍增：用快马平台智能优化你的openclaw更新工作流

最近在折腾openclaw的更新命令时&#xff0c;发现每次手动输入各种参数和检查依赖实在太费时间了。经过一番摸索&#xff0c;我发现用InsCode(快马)平台可以大幅优化这个流程&#xff0c;今天就把我的经验分享给大家。 智能参数补全 以前最头疼的就是记不住各种参数组合&#x…...

编程新知 2026/3/28 9:08:08

实测：用GPT-4和KernelBench自动生成CUDA内核，效果到底如何？

实测&#xff1a;GPT-4与KernelBench自动生成CUDA内核的实战效果分析 当我在深夜调试一个矩阵乘法的CUDA内核时&#xff0c;第17次尝试依然无法突破PyTorch原生实现的性能。这种场景对GPU开发者来说再熟悉不过——我们总在手工优化与开发效率之间寻找平衡。而当我第一次听说可以…...

编程新知 2026/3/28 7:21:00