当前位置： 首页 > news >正文

机器学习笔记 - LoRA：大型语言模型的低秩适应

news 文章来源：https://blog.csdn.net/bashendixie5/article/details/139544190 2025/5/6 9:01:39

一、简述

1、模型微调

        随着大型语言模型 (LLM) 的规模增加到数千亿，对这些模型进行微调成为一项挑战。传统上，要微调模型，我们需要更新所有模型参数。这也称为完全微调 (FFT) 。下图详细概述了此方法的工作原理。

        完全微调FFT 的计算成本和资源需求很大，因为更新每个参数都需要大量的处理和内存。其次，使用像 FFT 这样的方法，存在灾难性遗忘的风险，即模型在过度学习新数据时会忘记以前学到的信息。

        于是为应对这一情况，出现了一系列称为参数高效微调 (PEFT)的方法。PEFT 仅需修改一小部分参数（在某些任务中甚至为 1%）即可达到与 FFT 相近的准确度。使用 PEFT，微调将需要更少的计算和时间，并降低过度拟合的风险。

2、LoRA

        一种流行的 PEFT 方法就是LoRA，大型语言模型的低秩自适应 ( LoRA ) 由微软开发，通过学习秩分解矩阵对并冻结原始权重来减少可训练参数的数量。

        该方法基于一个假设：权重变化矩阵 ΔW 可以在较低维度中表示。换句话说，ΔW 的秩很低。这被称为内在秩假设。

        Lora 尝试微调模型的“残差”&#

相关文章：

机器学习笔记 - LoRA：大型语言模型的低秩适应

一、简述 1、模型微调 随着大型语言模型 (LLM) 的规模增加到数千亿，对这些模型进行微调成为一项挑战。传统上，要微调模型，我们需要更新所有模型参数。这也称为完全微调 (FFT) 。下图详细概述了此方法的工作原理。 完全微调FFT 的计算成本和资源需求很大，因为更新每…...

编程日记 2024/6/14 20:49:29

基于python实现视频和音频长度对齐合成并添加字幕

在许多视频编辑任务中，我们常常需要将视频和音频进行对齐，并添加字幕。本文将详细介绍如何使用Python实现这一功能，并在视频中添加中文字幕。我们将使用OpenCV处理视频帧，使用MoviePy处理音频和视频的合成，使用PIL库绘…...

编程日记 2024/6/14 20:48:28

爬虫-模拟登陆博客

import requests from bs4 import BeautifulSoupheaders {user-agent: Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.132 Safari/537.36 } # 登录参数 login_data {log: codetime,pwd: shanbay520,wp-submit: …...

编程日记 2024/6/14 20:45:24

【深度学习】【NLP】Bert理论，代码

论文 ： https://arxiv.org/abs/1810.04805 文章目录 一、Bert理论BERT 模型公式1. 输入表示 (Input Representation)2. 自注意力机制 (Self-Attention Mechanism)3. Transformer 层 (Transformer Layer) 二、便于理解Bert的代码1. 自注意力机制2. Transformer 层3. …...

编程日记 2024/6/14 20:44:23

element table 点击某一行中按钮加载

在Element UI中，实现表格（element-table）中的这种功能通常涉及到数据处理和状态管理。当你点击某一行的按钮时，其他行的按钮需要动态地切换为加载状态，这可以通过以下步骤实现： 1.表格组件：使用…...

编程日记 2024/6/14 20:43:21

Linux开机自启/etc/init.d和/etc/rc.d/rc.local

文章目录 /etc/init.d和/etc/rc.d/rc.local的区别/etc/init.dsystemd介绍 /etc/init.d和/etc/rc.d/rc.local的区别 目的不同： /etc/rc.d/rc.local：用于在系统启动后执行用户自定义命令，适合简单的启动任务。 /etc/init.d：用于管理…...

编程日记 2024/6/14 20:41:19

DP：两个数组的dp问题

解决两个数组的dp问题的常用状态表示： 1、选取第一个字符串[0-i]区间以及第二个字符串[0,j]区间作为研究对象 2、根据题目的要求确定状态表示 字符串dp的常见技巧 1、空串是有研究意义的，引入空串可以帮助我们思考虚拟的边界如何进行初始化。 2、如…...

编程日记 2024/6/14 20:40:18

嵌入式Linux：格式化I/O

目录 1、格式化输出函数 1.1、printf()函数 1.2、fprintf()函数 1.3、dprintf()函数 1.4、sprintf()函数 1.5、snprintf()函数 2、格式化输入函数 2.1、scanf()函数 2.2、fscanf()函数 2.3、sscanf()函数 在Linux中，格式化I/O（formatted I/O&a…...

编程日记 2024/6/14 20:37:16

【elementui源码解析】如何实现自动渲染md文档-第二篇

目录 1.概要 2.引用文件 1）components.json 2）json-template/string 3）os.EOL 3.变量定义 4.模版填充 5.MAIN_TEMPLATE填充 6.src下的index.js文件 1）install 2）export 7.总结 1.概要 今天看第二个命令no…...

编程日记 2024/6/14 20:35:14

热门开源项目OpenHarmony

目录 1.概述 1.1.开源项目的意义 1.2.开源项目对软件行业的促进作用 1.3.小结 2.OpenHarmony 2.1.技术架构 2.2.分布式软总线 2.2.1.架构 2.2.2.代码介绍 2.2.2.1.代码目录 2.2.2.2.说明 2.2.2.3.发现组网和传输 2.2.2.3.1.发现 2.2.2.3.2.组网 2.2.2.3.3.传输…...

编程日记 2024/6/14 20:33:12

NewspaceAi之GPT使用新体验

GPT功能 使用地址：https://newspace.ai0.cn/ 上车 挂挡 踩油门，一脚到底，开始你的表演 问题1：你能做什么详细告诉我？ 下面内容是GPT的回答 当然！作为一个基于GPT-4架构的AI，我能够在许多方面为…...

编程日记 2024/6/14 20:32:11

详解红黑树

红黑树规则 节点是红色或黑色。根节点是黑色。每个叶子节点都是黑色的空节点（NIL节点）。每个红色节点的两个子节点都是黑色。(从每个叶子到根的所有路径上不能有两个连续的红色节点)从任一节点到其每个叶子的所有路径都包含相同数目的黑色节点。 红黑树…...

编程日记 2024/6/14 20:31:10

探索JavaScript逆向工程与风控等级

探索JavaScript逆向工程与风控等级 在当今的网络安全领域，JavaScript逆向工程（简称JS逆向）已成为许多开发者和安全专家关注的焦点。JS逆向主要涉及对JavaScript代码的分析与理解，以发现其内部逻辑、数据流及潜在漏洞。这种技术常用…...

编程日记 2024/6/14 20:30:09

C++ 22 之 立方体案例

c22立方体案例.cpp #include <iostream> #include <string>using namespace std;class Cube{ private:int cube_l; // 长int cube_w; // 宽int cube_h; // 高public:// 设置长void set_l(int l){cube_l 1;}// 设置宽void set_w(int w){cube_w w;}// 设置高void …...

编程日记 2024/6/14 20:29:08

vue2使用antv/g6-editor实现可拖拽流程图

依赖下载 照着这个引入就好&#xff0c;然后npm install 源码 <template><div id"vue-g6-editor"><el-row><el-col :span"24"></el-col></el-row><!-- 工具栏 --><el-row><el-col :span"24&qu…...

编程日记 2024/6/14 20:28:07

springboot学习小结

背景 业务上需要开发&#xff0c;组里一位前辈给我指路 spring基础 什么是spring spring提供一个容器称为spring应用上下文&#xff0c;容器里可以创建和管理组件&#xff0c;组件会在容器里装配好&#xff0c;组件也可以叫bean。 装配不由组件创建他依赖的组件&#xff0…...

编程日记 2024/6/14 20:27:05

vue聊天发送Emoji表情

在用web端写聊天发送表情的功能中&#xff0c;使用web端有系统自带的unicode表情会出现每端不统一的情况&#xff0c;不好用不能统一&#xff0c;在这里我想到了一个非常好的思路&#xff0c;可以解决这个问题&#xff01; 那就是发送表情用图片的形式呈现&#xff0c;然后发给…...

编程日记 2024/6/14 20:23:02

360数字安全：2024年4月勒索软件流行态势分析报告

勒索软件传播至今&#xff0c;360 反勒索服务已累计接收到数万勒索软件感染求助。随着新型勒索软件的快速蔓延&#xff0c;企业数据泄露风险不断上升&#xff0c;勒索金额在数百万到近亿美元的勒索案件不断出现。勒索软件给企业和个人带来的影响范围越来越广&#xff0c;危害性…...

编程日记 2024/6/14 20:17:58

【MySQL】日志详解

本文使用的MySQL版本是8 日志概览 它们记录了数据库系统中的不同操作和事件&#xff0c;以便于故障排除、性能优化和数据恢复。本文将介绍MySQL中常见的几种日志&#xff0c;同时也会介绍一点常用的选项。 官方文档&#xff1a;MySQL :: MySQL 8.0 Reference Manual :: 7.4 M…...

编程日记 2024/6/14 20:16:57

MyBatis 延迟加载，一级缓存，二级缓存设置

MyBatis不仅提供了一级缓存和二级缓存机制&#xff0c;还支持延迟加载&#xff08;Lazy Loading&#xff09;&#xff0c;以进一步优化性能。 1. 延迟加载&#xff08;Lazy Loading&#xff09; 延迟加载是在需要时才加载数据&#xff0c;而不是在查询时立即加载所有相关数据。…...

编程日记 2024/6/14 20:11:52

Linux 基本指令2

cp 指令 cp[选项]源文件 目标文件 将源文件的内容复制到目标文件中&#xff0c;源文件可以有多个&#xff0c;最后一个文件为目标文件&#xff0c;目标文件也可以是一段路径&#xff0c;若目的地不是一个目录的话会拷贝失败。若没有路径上的目录则会新建一个&#xff0c;若源是…...

编程日记 2024/6/14 20:06:48

联邦学习的基本流程,联邦学习权重聚合,联邦学习权重更新

目录 联邦学习的基本流程是 S_t = np.random.choice(range(K), m, replace=False) 联邦学习权重聚合 model.state_dict() 联邦学习权重更新 下载数据集 https://ossci-datasets.s3.amazonaws.com/mnist/train-images-idx3-ubyte.gz 联邦学习的基本流程是 **1. server初始…...

编程日记 2024/6/14 20:05:46

React保姆级教学

React保姆级教学 一、创建第一个react项目二、JSX基本语法与react基础知识1、 插值语法&#xff1a;2、 循环一个简单列表3、 实现简单条件渲染4、 实现复杂的条件渲染5、 事件绑定6、 基础组件&#xff08;函数组件&#xff09;7、 使用useState8、 基础样式控制9、 动态类名1…...

编程日记 2024/6/14 20:03:44

数据结构和矩阵细节用法：double、cell和complex #matlab

矩阵建立 建立矩阵用[]&#xff1b; 矩阵的同一行内的元素用逗号或者空格隔开&#xff1b; 矩阵的不同行的元素用分号隔开 eg. 矩阵 A 1 2 3 4 5 6 7 8 9 在matlab中矩阵A表示为&#xff1a; clc;clear; A[1,2,3;4,5,6;7,8,9]; %或者A[1 2 3;4 5 …...

编程日记 2024/6/14 20:02:42

12. Django 第三方功能应用

12. 第三方功能应用 因为Django具有很强的可扩展性, 所以延伸了第三方功能应用. 通过本章的学习, 读者能够在网站开发过程中快速实现API接口开发, 验证码生成与使用, 站内搜索引擎, 第三方网站实现用户注册, 异步任务和定时任务, 即时通信等功能.12.1 Django Rest Framework框…...

编程日记 2024/6/14 19:58:39

UnityWebRequest获取本地txt文件,其中中文乱码问题（踩坑记录）

Unity获取本地streamingassert下txt文件&#xff0c;遇到点问题&#xff0c;就是用UnityWebRequest下载一个txt文件的时候&#xff0c;原txt在资源管理器用notepad打开显示正常&#xff0c;但是Unity里调试&#xff0c;打印内容却是乱码&#xff0c; 在notepad 转存为utf-8&…...

编程日记 2024/6/14 19:52:32

轮到国产游戏统治Steam榜单

6月10日晚8点&#xff0c;《黑神话:悟空》实体版正式开启全款预售,预售开启不到5分钟,所有产品即宣告售罄。 Steam上&#xff0c;《黑神话:悟空》持续占据着热销榜榜首的位置。 但在《黑神话:悟空》傲人的光环下&#xff0c;还有一款国产游戏取得出色的成绩。 6月10日&#…...

编程日记 2024/6/14 19:49:29

不想搭集群，直接用spark

为了完成布置的作业&#xff0c;需要用到spark的本地模式&#xff0c;根本用不到集群&#xff0c;就不想搭建虚拟机&#xff0c;hadoop集群啥的&#xff0c;很繁琐&#xff0c;最后写作业还用不到集群&#xff08;感觉搭建集群对于我完成作业来说没有什么意义&#xff09;&…...

编程日记 2024/6/14 19:46:24

【MATLAB源码-第225期】基于matlab的计算器GUI设计仿真，能够实现基础运算，三角函数以及幂运算。

操作环境&#xff1a; MATLAB 2022a 1、算法描述 界面布局 计算器界面的主要元素分为几大部分&#xff1a;显示屏、功能按钮、数字按钮和操作符按钮。 显示屏 显示屏&#xff08;Edit Text&#xff09;&#xff1a;位于界面顶部中央&#xff0c;用于显示用户输入的表达式和…...

编程日记 2024/6/14 19:44:22

Scikit-learn 基础教程：机器学习的初步指南

Scikit-learn 是一个用于数据挖掘和数据分析的机器学习库&#xff0c;建立在 NumPy、SciPy 和 matplotlib 之上。它提供了简单而高效的工具来进行数据分析和建模。本文将为您介绍 Scikit-learn 的安装方法、核心组件&#xff0c;以及如何应用这些组件进行一个简单的机器学习项目…...

编程日记 2024/6/14 19:43:21