当前位置：首页 > news >正文

大模型微调（finetune）方法

news 2025/10/28 11:57:01

lora
adapter
prefix-tuning
p-tuning
prompt-tuning

大模型微调后灾难行遗忘

1、主流解决大模型微调后灾难行遗忘的方法是在微调过程中加入通用的指令数据。
2、自我蒸馏方法主要是通过模型本身对任务数据进行生成引导，构建自我蒸馏数据集，改变任务数据的信息分布，减少与原始模型信息分布的差距。

大模型LLM-微调经验分享&总结
工业知识图谱关系抽取-高端装备制造知识图谱自动化构建
自我蒸馏方法-减轻大模型微调过程中的灾难性遗忘
【大模型开发】一文搞懂Fine-tuning（大模型微调）
大模型微调（finetune）方法总结-LoRA,Adapter,Prefix-tuning，P-tuning，Prompt-tuning

大模型微调（finetune）方法

lora adapter prefix-tuning p-tuning prompt-tuning 大模型微调后灾难行遗忘 1、主流解决大模型微调后灾难行遗忘的方法是在微调过程中加入通用的指令数据。 2、自我蒸馏方法主要是通过模型本身对任务数据进行生成引导，构建自我蒸馏数据集，改变任务数…...

编程日记 2024/6/28 8:33:18

Bootstrap 5 卡片

Bootstrap 5 卡片 Bootstrap 5 是一个流行的前端框架，它提供了一套丰富的组件和工具，用于快速开发响应式和移动设备优先的网页。在 Bootstrap 5 中，卡片（Card）是一个非常重要的组件，用于展示内容，如文本、图片、列表等。卡片组件具有高度的灵活性和可定制性，可以轻松地…...

编程日记 2024/6/28 8:32:17

【ONLYOFFICE 8.1】的安装与使用——功能全面的 PDF 编辑器、幻灯片版式、优化电子表格的协作

🔥 个人主页：空白诗文章目录一、引言二、ONLYOFFICE 简介三、安装1. Windows/Mac 安装2. 文档开发者版安装安装前准备使用 Docker 安装使用 Linux 发行版安装配置 ONLYOFFICE 文档开发者版集成和开发四、使用1. 功能全面的 PDF 编辑器PDF 查看和导航P…...

编程日记 2024/6/28 8:28:13

「51媒体」浙江地区媒体邀约

传媒如春雨，润物细无声，大家好，我是51媒体网胡老师。媒体宣传加速季，100万补贴享不停，一手媒体资源，全国100城线下落地执行。详情请联系胡老师。浙江地区的媒体邀约资源丰富多样，涵盖了电视台…...

编程日记 2024/6/28 8:26:11

2-18 基于matlab的关于联合对角化盲源分离算法的二阶盲识别（SOBI）算法

基于matlab的关于联合对角化盲源分离算法的二阶盲识别（SOBI）算法。通过联合对角化逼近解混矩阵。构建的四组信号，并通过认为设置添加噪声比例，掩盖信号信息。通过SOBI算法实现了解混。程序已调通，可直接运行。 2-18联合…...

编程日记 2024/6/28 8:23:07

C++中常用的标志库

标准库 C标准库是一个强大的工具集，它包含了一组丰富的类和函数，可以帮助开发者进行各种操作，如输入输出、字符串操作、数据结构管理、算法实现等。以下是一些常用的C标准库及其使用方法。 1. 输入输出库 <iostream> 用于标准输入输…...

编程日记 2024/6/28 8:20:04

近期计算机领域的热点技术

随着科技的飞速发展，计算机领域的新技术、新趋势层出不穷。本文将探讨近期计算机领域的几个热点技术趋势，并对它们进行简要的分析和展望。一、人工智能与机器学习人工智能（AI）和机器学习（ML）是近年来计算…...

编程日记 2024/6/28 8:17:01

HarmonyOS Next 系列之可移动悬浮按钮实现（六）

系列文章目录 HarmonyOS Next 系列之省市区弹窗选择器实现（一） HarmonyOS Next 系列之验证码输入组件实现（二） HarmonyOS Next 系列之底部标签栏TabBar实现（三） HarmonyOS Next 系列之HTTP请求封装和Token…...

编程日记 2024/6/28 8:14:59

如何获得更高质量的回答-chatgpt

在与技术助手如ChatGPT进行交互时，提问的方式直接影响到你获得的答案质量。以下是几个关键的提问技巧，可以帮助你在与ChatGPT的互动中获得更有效的回答： 1. 清晰明了的问题技巧：确保问题清晰明了，避免含糊不清或模糊的…...

编程日记 2024/6/28 8:13:56

ASP.NET Core 6.0 使用 Log4Net 和 Nlog日志中间件

前言两年前，浅浅的学过 .NET 6，为啥要记录下来，大概是为了以后搭架子留下引线，还有抛砖引玉。 1. 环境准备下载建议使用 Visual Studio 2022 开发版官网的下载地址：Visual Studio 2022 IDE - 适用于软件开发人员的编程工具借助 Visual Studio 设计，具有自动完成…...

编程日记 2024/6/28 8:12:55

使用Spring Boot实现与ActiveMQ的消息队列集成

使用Spring Boot实现与ActiveMQ的消息队列集成大家好，我是免费搭建查券返利机器人省钱赚佣金就用微赚淘客系统3.0的小编，也是冬天不穿秋裤，天冷也要风度的程序猿！ 消息队列在现代分布式系统中扮演着至关重要的角色，…...

编程日记 2024/6/28 8:11:54

深度学习 - Transformer 组成详解

整体结构 1. 嵌入层（Embedding Layer） 生活中的例子：字典查找想象你在读一本书，你不认识某个单词，于是你查阅字典。字典为每个单词提供了一个解释，帮助你理解这个单词的意思。嵌入层就像这个字典&#xf…...

编程日记 2024/6/28 8:09:52

ONLYOFFICE 8.1编辑器桌面应用程序来袭——在线全面测评

目录 ✈下载✈ 👀界面👀 👊功能👊 🧠幻灯片版式的重大改进🧠 ✂无缝切换文档编辑、审阅和查看模式✂ 🎵在演示文稿中播放视频和音频文件🎵 🤗版本 8.1&#xff1a…...

编程日记 2024/6/28 8:08:50

《Windows API每日一练》6.4 程序测试

前面我们讨论了鼠标的一些基础知识，本节我们将通过一些实例来讲解鼠标消息的不同处理方式。本节必须掌握的知识点： 第36练：鼠标击中测试1 第37练：鼠标击中测试2—增加键盘接口第38练：鼠标击中测试3—子窗口第39练&…...

编程日记 2024/6/28 8:07:49

[C#]基于opencvsharp实现15关键点人体姿态估计

数据集正确选择数据集以对结果产生适当影响也是非常必要的。在此姿势检测中，模型在两个不同的数据集即COCO关键点数据集和MPII人类姿势数据集上进行了预训练。 1. COCO：COCO关键点数据集是一个多人2D姿势估计数据集，其中包含从Flickr收集的…...

编程日记 2024/6/28 8:05:47

lambda-map.merge

map.merge 结论: 1.当前传入的 key ,value biFunction 2.如果之前map不存在则直接put(当前key,当前value) 3.如果之前map已经有了,老value与当前value 进入function处理后再 put(当前key,处理后的value)...

编程日记 2024/6/28 8:04:45

pppd 返回错误码含义

错误码 00： pppd已经断开，或者已经成功建立连接后请求方又中断了。 01： 发成了一个严重错误，例如系统调用失败或者访问非法内存。 02： 处理给定操作是检测到错误，例如使用两个互斥的操作。 03：…...

编程日记 2024/6/28 8:03:44

XML 技术

XML 技术 XML（可扩展标记语言）是一种用于存储和传输数据的标记语言。它由万维网联盟（W3C）开发，并在1998年成为正式标准。XML的设计目标是既易于人类阅读，也易于机器解析。它是一种自描述的语言，允许用户定义自己的标签和文档结构。XML被广泛应用于各种领域，包括网络服…...

编程日记 2024/6/28 8:02:43

基于RabbitMQ的异步消息传递：发送与消费

引言 RabbitMQ是一个流行的开源消息代理，用于在分布式系统中实现异步消息传递。它基于Erlang语言编写，具有高可用性和可伸缩性。在本文中，我们将探讨如何在Python中使用RabbitMQ进行消息发送和消费。安装RabbitMQ 在 Ubuntu 上安装 Rabbi…...

编程日记 2024/6/28 8:01:42

Golang | Leetcode Golang题解之第201题数字范围按位与

题目： 题解： func rangeBitwiseAnd(m int, n int) int {for m < n {n & (n - 1)}return n }...

编程日记 2024/6/28 8:00:40

1. Android wifi 关键日志总结 (1) Wi-Fi 断开 (CTRL-EVENT-DISCONNECTED reason3) 日志相关部分： 06-05 10:48:40.987 943 943 I wpa_supplicant: wlan0: CTRL-EVENT-DISCONNECTED bssid44:9b:c1:57:a8:90 reason3 locally_generated1解析： CTR…...

编程新知 2025/9/14 19:44:52

【Linux】shell脚本忽略错误继续执行

在 shell 脚本中，可以使用 set -e 命令来设置脚本在遇到错误时退出执行。如果你希望脚本忽略错误并继续执行，可以在脚本开头添加 set e 命令来取消该设置。举例1 #!/bin/bash# 取消 set -e 的设置 set e# 执行命令，并忽略错误 rm somefile…...

编程新知 2025/9/11 15:27:32

k8s从入门到放弃之Ingress七层负载

k8s从入门到放弃之Ingress七层负载在Kubernetes（简称K8s）中，Ingress是一个API对象，它允许你定义如何从集群外部访问集群内部的服务。Ingress可以提供负载均衡、SSL终结和基于名称的虚拟主机等功能。通过Ingress，你可…...

编程新知 2025/9/7 0:12:53

iPhone密码忘记了办？iPhoneUnlocker，iPhone解锁工具Aiseesoft iPhone Unlocker 高级注册版分享

平时用 iPhone 的时候，难免会碰到解锁的麻烦事。比如密码忘了、人脸识别 / 指纹识别突然不灵，或者买了二手 iPhone 却被原来的 iCloud 账号锁住，这时候就需要靠谱的解锁工具来帮忙了。Aiseesoft iPhone Unlocker 就是专门解决这些问题的软件&…...

编程新知 2025/10/26 22:44:03

江苏艾立泰跨国资源接力：废料变黄金的绿色供应链革命

在华东塑料包装行业面临限塑令深度调整的背景下，江苏艾立泰以一场跨国资源接力的创新实践，重新定义了绿色供应链的边界。跨国回收网络：废料变黄金的全球棋局艾立泰在欧洲、东南亚建立再生塑料回收点，将海外废弃包装箱通过标准…...

编程新知 2025/10/21 19:56:14

selenium学习实战【Python爬虫】

selenium学习实战【Python爬虫】文章目录 selenium学习实战【Python爬虫】一、声明二、学习目标三、安装依赖3.1 安装selenium库3.2 安装浏览器驱动3.2.1 查看Edge版本3.2.2 驱动安装四、代码讲解4.1 配置浏览器4.2 加载更多4.3 寻找内容4.4 完整代码五、报告文件爬取5.1 提…...

编程新知 2025/10/19 15:58:29