当前位置： 首页 > news >正文

机器学习笔记 - LoRA：大型语言模型的低秩适应

news 2026/4/1 13:26:15

一、简述

1、模型微调

        随着大型语言模型 (LLM) 的规模增加到数千亿，对这些模型进行微调成为一项挑战。传统上，要微调模型，我们需要更新所有模型参数。这也称为完全微调 (FFT) 。下图详细概述了此方法的工作原理。

        完全微调FFT 的计算成本和资源需求很大，因为更新每个参数都需要大量的处理和内存。其次，使用像 FFT 这样的方法，存在灾难性遗忘的风险，即模型在过度学习新数据时会忘记以前学到的信息。

        于是为应对这一情况，出现了一系列称为参数高效微调 (PEFT)的方法。PEFT 仅需修改一小部分参数（在某些任务中甚至为 1%）即可达到与 FFT 相近的准确度。使用 PEFT，微调将需要更少的计算和时间，并降低过度拟合的风险。

2、LoRA

        一种流行的 PEFT 方法就是LoRA，大型语言模型的低秩自适应 ( LoRA ) 由微软开发，通过学习秩分解矩阵对并冻结原始权重来减少可训练参数的数量。

        该方法基于一个假设：权重变化矩阵 ΔW 可以在较低维度中表示。换句话说，ΔW 的秩很低。这被称为内在秩假设。

        Lora 尝试微调模型的“残差”&#

相关文章：

机器学习笔记 - LoRA：大型语言模型的低秩适应

一、简述 1、模型微调 随着大型语言模型 (LLM) 的规模增加到数千亿，对这些模型进行微调成为一项挑战。传统上，要微调模型，我们需要更新所有模型参数。这也称为完全微调 (FFT) 。下图详细概述了此方法的工作原理。 完全微调FFT 的计算成本和资源需求很大，因为更新每…...

编程日记 2024/6/14 20:49:29

基于python实现视频和音频长度对齐合成并添加字幕

在许多视频编辑任务中，我们常常需要将视频和音频进行对齐，并添加字幕。本文将详细介绍如何使用Python实现这一功能，并在视频中添加中文字幕。我们将使用OpenCV处理视频帧，使用MoviePy处理音频和视频的合成，使用PIL库绘…...

编程日记 2024/6/14 20:48:28

爬虫-模拟登陆博客

import requests from bs4 import BeautifulSoupheaders {user-agent: Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.132 Safari/537.36 } # 登录参数 login_data {log: codetime,pwd: shanbay520,wp-submit: …...

编程日记 2024/6/14 20:45:24

【深度学习】【NLP】Bert理论，代码

论文 ： https://arxiv.org/abs/1810.04805 文章目录 一、Bert理论BERT 模型公式1. 输入表示 (Input Representation)2. 自注意力机制 (Self-Attention Mechanism)3. Transformer 层 (Transformer Layer) 二、便于理解Bert的代码1. 自注意力机制2. Transformer 层3. …...

编程日记 2024/6/14 20:44:23

element table 点击某一行中按钮加载

在Element UI中，实现表格（element-table）中的这种功能通常涉及到数据处理和状态管理。当你点击某一行的按钮时，其他行的按钮需要动态地切换为加载状态，这可以通过以下步骤实现： 1.表格组件：使用…...

编程日记 2024/6/14 20:43:21

Linux开机自启/etc/init.d和/etc/rc.d/rc.local

文章目录 /etc/init.d和/etc/rc.d/rc.local的区别/etc/init.dsystemd介绍 /etc/init.d和/etc/rc.d/rc.local的区别 目的不同： /etc/rc.d/rc.local：用于在系统启动后执行用户自定义命令，适合简单的启动任务。 /etc/init.d：用于管理…...

编程日记 2024/6/14 20:41:19

DP：两个数组的dp问题

解决两个数组的dp问题的常用状态表示： 1、选取第一个字符串[0-i]区间以及第二个字符串[0,j]区间作为研究对象 2、根据题目的要求确定状态表示 字符串dp的常见技巧 1、空串是有研究意义的，引入空串可以帮助我们思考虚拟的边界如何进行初始化。 2、如…...

编程日记 2024/6/14 20:40:18

嵌入式Linux：格式化I/O

目录 1、格式化输出函数 1.1、printf()函数 1.2、fprintf()函数 1.3、dprintf()函数 1.4、sprintf()函数 1.5、snprintf()函数 2、格式化输入函数 2.1、scanf()函数 2.2、fscanf()函数 2.3、sscanf()函数 在Linux中，格式化I/O（formatted I/O&a…...

编程日记 2024/6/14 20:37:16

【elementui源码解析】如何实现自动渲染md文档-第二篇

目录 1.概要 2.引用文件 1）components.json 2）json-template/string 3）os.EOL 3.变量定义 4.模版填充 5.MAIN_TEMPLATE填充 6.src下的index.js文件 1）install 2）export 7.总结 1.概要 今天看第二个命令no…...

编程日记 2024/6/14 20:35:14

热门开源项目OpenHarmony

目录 1.概述 1.1.开源项目的意义 1.2.开源项目对软件行业的促进作用 1.3.小结 2.OpenHarmony 2.1.技术架构 2.2.分布式软总线 2.2.1.架构 2.2.2.代码介绍 2.2.2.1.代码目录 2.2.2.2.说明 2.2.2.3.发现组网和传输 2.2.2.3.1.发现 2.2.2.3.2.组网 2.2.2.3.3.传输…...

编程日记 2024/6/14 20:33:12

NewspaceAi之GPT使用新体验

GPT功能 使用地址：https://newspace.ai0.cn/ 上车 挂挡 踩油门，一脚到底，开始你的表演 问题1：你能做什么详细告诉我？ 下面内容是GPT的回答 当然！作为一个基于GPT-4架构的AI，我能够在许多方面为…...

编程日记 2024/6/14 20:32:11

详解红黑树

红黑树规则 节点是红色或黑色。根节点是黑色。每个叶子节点都是黑色的空节点（NIL节点）。每个红色节点的两个子节点都是黑色。(从每个叶子到根的所有路径上不能有两个连续的红色节点)从任一节点到其每个叶子的所有路径都包含相同数目的黑色节点。 红黑树…...

编程日记 2024/6/14 20:31:10

探索JavaScript逆向工程与风控等级

探索JavaScript逆向工程与风控等级 在当今的网络安全领域，JavaScript逆向工程（简称JS逆向）已成为许多开发者和安全专家关注的焦点。JS逆向主要涉及对JavaScript代码的分析与理解，以发现其内部逻辑、数据流及潜在漏洞。这种技术常用…...

编程日记 2024/6/14 20:30:09

C++ 22 之 立方体案例

c22立方体案例.cpp #include <iostream> #include <string>using namespace std;class Cube{ private:int cube_l; // 长int cube_w; // 宽int cube_h; // 高public:// 设置长void set_l(int l){cube_l 1;}// 设置宽void set_w(int w){cube_w w;}// 设置高void …...

编程日记 2024/6/14 20:29:08

vue2使用antv/g6-editor实现可拖拽流程图

依赖下载 照着这个引入就好&#xff0c;然后npm install 源码 <template><div id"vue-g6-editor"><el-row><el-col :span"24"></el-col></el-row><!-- 工具栏 --><el-row><el-col :span"24&qu…...

编程日记 2024/6/14 20:28:07

springboot学习小结

背景 业务上需要开发&#xff0c;组里一位前辈给我指路 spring基础 什么是spring spring提供一个容器称为spring应用上下文&#xff0c;容器里可以创建和管理组件&#xff0c;组件会在容器里装配好&#xff0c;组件也可以叫bean。 装配不由组件创建他依赖的组件&#xff0…...

编程日记 2024/6/14 20:27:05

vue聊天发送Emoji表情

在用web端写聊天发送表情的功能中&#xff0c;使用web端有系统自带的unicode表情会出现每端不统一的情况&#xff0c;不好用不能统一&#xff0c;在这里我想到了一个非常好的思路&#xff0c;可以解决这个问题&#xff01; 那就是发送表情用图片的形式呈现&#xff0c;然后发给…...

编程日记 2024/6/14 20:23:02

360数字安全：2024年4月勒索软件流行态势分析报告

勒索软件传播至今&#xff0c;360 反勒索服务已累计接收到数万勒索软件感染求助。随着新型勒索软件的快速蔓延&#xff0c;企业数据泄露风险不断上升&#xff0c;勒索金额在数百万到近亿美元的勒索案件不断出现。勒索软件给企业和个人带来的影响范围越来越广&#xff0c;危害性…...

编程日记 2024/6/14 20:17:58

【MySQL】日志详解

本文使用的MySQL版本是8 日志概览 它们记录了数据库系统中的不同操作和事件&#xff0c;以便于故障排除、性能优化和数据恢复。本文将介绍MySQL中常见的几种日志&#xff0c;同时也会介绍一点常用的选项。 官方文档&#xff1a;MySQL :: MySQL 8.0 Reference Manual :: 7.4 M…...

编程日记 2024/6/14 20:16:57

MyBatis 延迟加载，一级缓存，二级缓存设置

MyBatis不仅提供了一级缓存和二级缓存机制&#xff0c;还支持延迟加载&#xff08;Lazy Loading&#xff09;&#xff0c;以进一步优化性能。 1. 延迟加载&#xff08;Lazy Loading&#xff09; 延迟加载是在需要时才加载数据&#xff0c;而不是在查询时立即加载所有相关数据。…...

编程日记 2024/6/14 20:11:52

猫抓插件：资源嗅探技术如何重塑浏览器媒体捕获体验

猫抓插件&#xff1a;资源嗅探技术如何重塑浏览器媒体捕获体验 【免费下载链接】cat-catch 猫抓 浏览器资源嗅探扩展 / cat-catch Browser Resource Sniffing Extension 项目地址: https://gitcode.com/GitHub_Trending/ca/cat-catch 在数字内容爆炸的时代&#xff0c;网…...

编程新知 2026/4/1 12:38:20

从分类影像到Fragstats输入：搞定景观格局分析前处理的完整避坑指南

景观格局分析前处理全流程&#xff1a;从分类影像到Fragstats输入的实战避坑指南 当你完成遥感影像分类&#xff0c;准备计算景观指数时&#xff0c;是否遇到过Fragstats报错"Invalid input format"&#xff1f;或是发现计算结果与预期不符却找不到原因&#xff1f;本…...

编程新知 2026/4/1 12:32:18

如何高效保存B站视频？BiliTools全能下载解决方案让你无忧离线观看

如何高效保存B站视频&#xff1f;BiliTools全能下载解决方案让你无忧离线观看 【免费下载链接】BiliTools A cross-platform bilibili toolbox. 跨平台哔哩哔哩工具箱&#xff0c;支持下载视频、番剧等等各类资源 项目地址: https://gitcode.com/GitHub_Trending/bilit/BiliT…...

编程新知 2026/4/1 11:59:54

SolveSpace：参数化 CAD 软件网页版的实验性突破

【导语&#xff1a;SolveSpace 作为一款参数化二维/三维 CAD 软件&#xff0c;推出了实验性网页版。虽存在速度损失和未解决的 bug&#xff0c;但处理小模型时体验不错&#xff0c;为 CAD 软件的使用带来新可能。】小巧 CAD 软件的网页版尝试SolveSpace 主要以普通桌面软件形式…...

编程新知 2026/4/1 10:51:12

永磁同步直线电机建模、仿真及优化教学：从基础原理入门到工程应用精通的系统学习与实战指南

永磁同步直线电机&#xff0c;建模&#xff0c;仿真及优化教学从入门到精通永磁同步直线电机高速精密绘图仪笔尖能在纸上跑出米每秒级速度却连发丝粗细的误差都没有&#xff0c;晶圆台托着指甲盖大的芯片在光刻机里微米级挪位卡得死死的&#xff0c;这些“直来直去还准到离谱”…...

编程新知 2026/4/1 9:05:20

Simulink新手必看：从零搭建四轴飞行器仿真模型（附完整代码）

Simulink实战&#xff1a;四轴飞行器仿真建模全流程解析 四轴飞行器作为无人机领域的经典构型&#xff0c;其控制系统的设计与验证一直是工程师和科研人员的重点课题。对于刚接触Simulink的开发者而言&#xff0c;如何将复杂的飞行动力学转化为可视化的仿真模型往往令人望而生畏…...

编程新知 2026/4/1 9:05:20

Catalyst API 认证管理：处理 OAuth Token 失效问题

在使用 Catalyst API 进行数据操作时，OAuth Token 的管理是至关重要的。特别是当你尝试插入新记录到 Catalyst Datastore 表时，可能会遇到 “INVALID OAUTH TOKEN” 错误。本文将详细介绍如何有效地处理这一问题，并提供一个实际的示例来演示解决方案。 问题描述 在尝试使用…...

编程新知 2026/4/1 8:59:13

S2-Pro+C语言教学系统：代码逻辑讲解与典型错误自动纠正

S2-ProC语言教学系统&#xff1a;代码逻辑讲解与典型错误自动纠正 1. 智能编程助教初体验 第一次看到S2-Pro在C语言教学中的应用效果时&#xff0c;确实让人眼前一亮。想象一下&#xff0c;当学生提交一段指针运算代码后&#xff0c;系统不仅能指出错误&#xff0c;还能像经验…...

编程新知 2026/4/1 6:21:34

原神高帧率解锁终极方案：一键突破60帧限制的完全指南

原神高帧率解锁终极方案&#xff1a;一键突破60帧限制的完全指南 【免费下载链接】genshin-fps-unlock unlocks the 60 fps cap 项目地址: https://gitcode.com/gh_mirrors/ge/genshin-fps-unlock 想象一下这样的场景&#xff1a;你在蒙德的原野上自由奔跑&#xff0c;角…...

编程新知 2026/4/1 5:22:59

【技术解析】SimpleNet：用极简网络架构革新工业图像异常检测

1. 工业图像异常检测的现状与挑战 工业生产线上的质检环节一直是个让人头疼的问题。想象一下&#xff0c;你站在一条每分钟生产上百件产品的流水线旁&#xff0c;需要肉眼检查每个产品表面是否有划痕、凹陷或污渍——这几乎是不可能完成的任务。传统计算机视觉方法在这个领域已…...

编程新知 2026/4/1 5:14:54