大模型微调（finetune）方法
lora
adapter
prefix-tuning
p-tuning
prompt-tuning
大模型微调后灾难行遗忘
1、主流解决大模型微调后灾难行遗忘的方法是在微调过程中加入通用的指令数据。
2、自我蒸馏方法主要是通过模型本身对任务数据进行生成引导，构建自我蒸馏数据集，改变任务数据的信息分布，减少与原始模型信息分布的差距。
-
大模型LLM-微调经验分享&总结
-
工业知识图谱关系抽取-高端装备制造知识图谱自动化构建
-
自我蒸馏方法-减轻大模型微调过程中的灾难性遗忘
-
【大模型开发 】 一文搞懂Fine-tuning（大模型微调）
-
大模型微调（finetune）方法总结-LoRA,Adapter,Prefix-tuning，P-tuning，Prompt-tuning
相关文章：
大模型微调（finetune）方法
lora adapter prefix-tuning p-tuning prompt-tuning 大模型微调后灾难行遗忘 1、主流解决大模型微调后灾难行遗忘的方法是在微调过程中加入通用的指令数据。 2、自我蒸馏方法主要是通过模型本身对任务数据进行生成引导，构建自我蒸馏数据集，改变任务数…...
Bootstrap 5 卡片
Bootstrap 5 卡片 Bootstrap 5 是一个流行的前端框架，它提供了一套丰富的组件和工具，用于快速开发响应式和移动设备优先的网页。在 Bootstrap 5 中，卡片（Card）是一个非常重要的组件，用于展示内容，如文本、图片、列表等。卡片组件具有高度的灵活性和可定制性，可以轻松地…...
【ONLYOFFICE 8.1】的安装与使用——功能全面的 PDF 编辑器、幻灯片版式、优化电子表格的协作
🔥 个人主页：空白诗 文章目录 一、引言二、ONLYOFFICE 简介三、安装1. Windows/Mac 安装2. 文档开发者版安装安装前准备使用 Docker 安装使用 Linux 发行版安装配置 ONLYOFFICE 文档开发者版集成和开发 四、使用1. 功能全面的 PDF 编辑器PDF 查看和导航P…...
「51媒体」浙江地区媒体邀约
传媒如春雨，润物细无声，大家好，我是51媒体网胡老师。 媒体宣传加速季，100万补贴享不停，一手媒体资源，全国100城线下落地执行。详情请联系胡老师。 浙江地区的媒体邀约资源丰富多样，涵盖了电视台…...
2-18 基于matlab的关于联合对角化盲源分离算法的二阶盲识别（SOBI）算法
基于matlab的关于联合对角化盲源分离算法的二阶盲识别（SOBI）算法。通过联合对角化逼近解混矩阵。构建的四组信号，并通过认为设置添加噪声比例，掩盖信号信息。通过SOBI算法实现了解混。程序已调通，可直接运行。 2-18联合…...
C++中常用的标志库
标准库 C标准库是一个强大的工具集，它包含了一组丰富的类和函数，可以帮助开发者进行各种操作，如输入输出、字符串操作、数据结构管理、算法实现等。以下是一些常用的C标准库及其使用方法。 1. 输入输出库 <iostream> 用于标准输入输…...
近期计算机领域的热点技术
随着科技的飞速发展，计算机领域的新技术、新趋势层出不穷。本文将探讨近期计算机领域的几个热点技术趋势，并对它们进行简要的分析和展望。 一、人工智能与机器学习 人工智能（AI）和机器学习（ML）是近年来计算…...
HarmonyOS Next 系列之可移动悬浮按钮实现（六）
系列文章目录 HarmonyOS Next 系列之省市区弹窗选择器实现（一） HarmonyOS Next 系列之验证码输入组件实现（二） HarmonyOS Next 系列之底部标签栏TabBar实现（三） HarmonyOS Next 系列之HTTP请求封装和Token…...
如何获得更高质量的回答-chatgpt
在与技术助手如ChatGPT进行交互时，提问的方式直接影响到你获得的答案质量。以下是几个关键的提问技巧，可以帮助你在与ChatGPT的互动中获得更有效的回答： 1. 清晰明了的问题 技巧：确保问题清晰明了，避免含糊不清或模糊的…...
ASP.NET Core 6.0 使用 Log4Net 和 Nlog日志中间件
前言 两年前，浅浅的学过 .NET 6，为啥要记录下来，大概是为了以后搭架子留下引线，还有抛砖引玉。 1. 环境准备 下载 建议使用 Visual Studio 2022 开发版 官网的下载地址：Visual Studio 2022 IDE - 适用于软件开发人员的编程工具借助 Visual Studio 设计，具有自动完成…...
使用Spring Boot实现与ActiveMQ的消息队列集成
使用Spring Boot实现与ActiveMQ的消息队列集成 大家好，我是免费搭建查券返利机器人省钱赚佣金就用微赚淘客系统3.0的小编，也是冬天不穿秋裤，天冷也要风度的程序猿！ 消息队列在现代分布式系统中扮演着至关重要的角色，…...
深度学习 - Transformer 组成详解
整体结构 1. 嵌入层（Embedding Layer） 生活中的例子：字典查找 想象你在读一本书，你不认识某个单词，于是你查阅字典。字典为每个单词提供了一个解释，帮助你理解这个单词的意思。嵌入层就像这个字典…...
ONLYOFFICE 8.1编辑器桌面应用程序来袭——在线全面测评
目录 ✈下载✈ 👀界面👀 👊功能👊 🧠幻灯片版式的重大改进🧠 ✂无缝切换文档编辑、审阅和查看模式✂ 🎵在演示文稿中播放视频和音频文件🎵 🤗版本 8.1：…...
《Windows API每日一练》6.4 程序测试
前面我们讨论了鼠标的一些基础知识，本节我们将通过一些实例来讲解鼠标消息的不同处理方式。 本节必须掌握的知识点： 第36练：鼠标击中测试1 第37练：鼠标击中测试2—增加键盘接口 第38练：鼠标击中测试3—子窗口 第39练&…...
[C#]基于opencvsharp实现15关键点人体姿态估计
数据集 正确选择数据集以对结果产生适当影响也是非常必要的。在此姿势检测中，模型在两个不同的数据集即COCO关键点数据集和MPII人类姿势数据集上进行了预训练。 1. COCO：COCO关键点数据集是一个多人2D姿势估计数据集，其中包含从Flickr收集的…...
lambda-map.merge
map.merge 结论: 1.当前传入的 key ,value biFunction 2.如果之前map不存在则直接put(当前key,当前value) 3.如果之前map已经有了,老value与 当前value 进入function处理后再 put(当前key,处理后的value)...
pppd 返回错误码 含义
错误码 00： pppd已经断开，或者已经成功建立连接后请求方又中 断了。 01： 发成了一个严重错误，例如系统调用失败或者访问非法内存。 02： 处理给定操作是检测到错误，例如使用两个互斥的操作。 03：…...
XML 技术
XML 技术 XML（可扩展标记语言）是一种用于存储和传输数据的标记语言。它由万维网联盟（W3C）开发，并在1998年成为正式标准。XML的设计目标是既易于人类阅读，也易于机器解析。它是一种自描述的语言，允许用户定义自己的标签和文档结构。XML被广泛应用于各种领域，包括网络服…...
基于RabbitMQ的异步消息传递：发送与消费
引言 RabbitMQ是一个流行的开源消息代理，用于在分布式系统中实现异步消息传递。它基于Erlang语言编写，具有高可用性和可伸缩性。在本文中，我们将探讨如何在Python中使用RabbitMQ进行消息发送和消费。 安装RabbitMQ 在 Ubuntu 上安装 Rabbi…...
Golang | Leetcode Golang题解之第201题数字范围按位与
题目： 题解： func rangeBitwiseAnd(m int, n int) int {for m < n {n & (n - 1)}return n }...
【入坑系列】TiDB 强制索引在不同库下不生效问题
文章目录 背景SQL 优化情况线上SQL运行情况分析怀疑1：执行计划绑定问题？尝试：SHOW WARNINGS 查看警告探索 TiDB 的 USE_INDEX 写法Hint 不生效问题排查解决参考背景 项目中使用 TiDB 数据库，并对 SQL 进行优化了，添加了强制索引。 UAT 环境已经生效，但 PROD 环境强制索…...
前端倒计时误差!
提示：记录工作中遇到的需求及解决办法 文章目录 前言一、误差从何而来？二、五大解决方案1. 动态校准法（基础版）2. Web Worker 计时3. 服务器时间同步4. Performance API 高精度计时5. 页面可见性API优化三、生产环境最佳实践四、终极解决方案架构前言 前几天听说公司某个项…...
可靠性+灵活性：电力载波技术在楼宇自控中的核心价值
可靠性灵活性：电力载波技术在楼宇自控中的核心价值 在智能楼宇的自动化控制中，电力载波技术（PLC）凭借其独特的优势，正成为构建高效、稳定、灵活系统的核心解决方案。它利用现有电力线路传输数据，无需额外布…...
学习STC51单片机31（芯片为STC89C52RCRC）OLED显示屏1
每日一言 生活的美好，总是藏在那些你咬牙坚持的日子里。 硬件：OLED 以后要用到OLED的时候找到这个文件 OLED的设备地址 SSD1306"SSD" 是品牌缩写，"1306" 是产品编号。 驱动 OLED 屏幕的 IIC 总线数据传输格式 示意图 …...
linux 下常用变更-8
1、删除普通用户 查询用户初始UID和GIDls -l /home/ ###家目录中查看UID cat /etc/group ###此文件查看GID删除用户1.编辑文件 /etc/passwd 找到对应的行，YW343:x:0:0::/home/YW343:/bin/bash 2.将标红的位置修改为用户对应初始UID和GID： YW3…...
#Uniapp篇：chrome调试unapp适配
chrome调试设备----使用Android模拟机开发调试移动端页面 Chrome://inspect/#devices MuMu模拟器Edge浏览器：Android原生APP嵌入的H5页面元素定位 chrome://inspect/#devices uniapp单位适配 根路径下 postcss.config.js 需要装这些插件 “postcss”: “^8.5.…...
Aspose.PDF 限制绕过方案：Java 字节码技术实战分享（仅供学习）
Aspose.PDF 限制绕过方案：Java 字节码技术实战分享（仅供学习） 一、Aspose.PDF 简介二、说明（⚠️仅供学习与研究使用）三、技术流程总览四、准备工作1. 下载 Jar 包2. Maven 项目依赖配置 五、字节码修改实现代码&#…...
C/C++ 中附加包含目录、附加库目录与附加依赖项详解
在 C/C 编程的编译和链接过程中，附加包含目录、附加库目录和附加依赖项是三个至关重要的设置，它们相互配合，确保程序能够正确引用外部资源并顺利构建。虽然在学习过程中，这些概念容易让人混淆，但深入理解它们的作用和联…...
代码规范和架构【立芯理论一】（2025.06.08）
1、代码规范的目标 代码简洁精炼、美观，可持续性好高效率高复用，可移植性好高内聚，低耦合没有冗余规范性，代码有规可循，可以看出自己当时的思考过程特殊排版，特殊语法，特殊指令，必须…...
MinIO Docker 部署：仅开放一个端口
MinIO Docker 部署：仅开放一个端口 在实际的服务器部署中，出于安全和管理的考虑，我们可能只能开放一个端口。MinIO 是一个高性能的对象存储服务，支持 Docker 部署，但默认情况下它需要两个端口：一个是 API 端口（用于存储和访问数据），另一个是控制台端口（用于管理界面…...