当前位置： 首页 > news >正文

【笔记】书生·浦语大模型实战营——第四课（XTuner 大模型单卡低成本微调实战）

news 2026/3/28 21:54:29

【参考：tutorial/xtuner/README.md at main · InternLM/tutorial】
【参考：(4)XTuner 大模型单卡低成本微调实战_哔哩哔哩_bilibili-【OpenMMLab】】

总结

  • 学到了

linux系统中 tmux 的使用

  • 了解了

XTuner 大模型微调框架的使用
pth格式参数转Hugging Face格式
Merge模型参数

学习记录

tmux

apt update -y  # 更新源apt install tmux -y # 安装tmux new -s finetune # 新建一个名称为finetune的session现在进入了finetune的session按ctrl+b 然后放开按键，再按d，离开tmux attach -t finetune  # 回到finetune输入
xtuner train ./internlm_chat_7b_qlora_oasst1_e3_copy.py --deepspeed deepspeed_zero2

作业

【参考：tutorial/xtuner/self.md at main · InternLM/tutorial】

在本地终端输入以下指令.
6006是在服务器中打开的端口，而35144是根据开发机的端口进行更改。

ssh -CNg -L 6006:127.0.0.1:6006 root@ssh.intern-ai.org.cn -p 35144

数据2000条，2个epoch，感觉不太行
在这里插入图片描述
数据10000条，3个epoch
在这里插入图片描述

相关文章：

【笔记】书生·浦语大模型实战营——第四课（XTuner 大模型单卡低成本微调实战）

【参考：tutorial/xtuner/README.md at main InternLM/tutorial】 【参考：(4)XTuner 大模型单卡低成本微调实战_哔哩哔哩_bilibili-【OpenMMLab】】 总结 学到了 linux系统中 tmux 的使用 了解了 XTuner 大模型微调框架的使用 pth格式参数转Hugging …...

编程日记 2024/1/15 0:06:29

开源的Immich自建一个堪比 iCloud 的私有云相册和备份服务

源码地址 GitHub - immich-app/immich: Self-hosted photo and video backup solution directly from your mobile phone. 1.创建目录 mkdir /data/immich && cd /data/immich 2.下载docker-compose文件和.env文件 wget https://github.com/immich-app/immich/relea…...

编程日记 2024/1/15 0:05:28

SPI通信讲解

了解SPI通信对于我们了解通信有非常重要的意义。 SPI（Serial Peripheral Interface）是由Motorola公司（摩托罗拉）开发的一种通用数据总线 四根通信线： SCK（Serial Clock）：时钟线&a…...

编程日记 2024/1/15 0:04:28

本地一键部署grafana+prometheus

本地k8s集群内一键部署grafanaprometheus 说明： 此一键部署grafanaPrometheus已包含： victoria-metrics 存储prometheus-servergrafanaprometheus-kube-state-metricsprometheus-node-exporterblackbox-exporter grafana内已导入基础的dashboard【7个…...

编程日记 2024/1/15 0:02:26

NIO核心依赖多路复用小记

NIO允许一个线程同时处理多个连接，而不会因为一个连接的阻塞而导致其他连接被阻塞。核心是依赖操作系统的多路复用机制。 操作系统的多路复用机制 多路复用是一种操作系统的 I/O 处理机制，允许单个进程（或线程）同时监视多个输入…...

编程日记 2024/1/15 0:01:25

如何彻底卸载 Microsoft Edge？

关闭 Microsoft Edge 浏览器和所有正在运行的进程。 按下 Ctrl Shift Esc 键打开任务管理器。在任务管理器中，找到所有正在运行的 Microsoft Edge 进程。右键单击每个进程，然后选择“结束任务”。 导航至 Microsoft Edge 的安装目录。 默认情况下&…...

编程日记 2024/1/14 23:59:23

JavaScript-对象-笔记

1.字面量创建对象、对象的使用 对象就是一组 属性和方法的集合 属性： 特征 相当于变量 静态 是什么 方法： 行为 相当于函数 动态 干什么 创建对象 创建对象的第一种：使用字面量 {} 对象中的元素是键值对 使用逗号隔开 键:值 的形式 var 对象名…...

编程日记 2024/1/14 23:56:21

java 运算符 选择语句

1：运算符 运算符：对字面量或者变量进行操作的符号 表达式：用运算符把字面量或者变量连接起来符合java语法的式子就可以称为表达式。不同运算符连接的表达式体现的是不同类型的表达式。 举例说明：** int a 10; int b 20; in…...

编程日记 2024/1/14 23:54:19

CNN：Convolutional Neural Network（上）

目录 1 为什么使用 CNN 处理图像 2 CNN 的整体结构 2.1 Convolution 2.2 Colorful image 3 Convolution v.s. Fully Connected 4 Max Pooling 5 Flatten 6 CNN in Keras 原视频：李宏毅 2020：Convolutional Neural Network 1 为什么使用…...

编程日记 2024/1/14 23:52:16

将Android应用修改为鸿蒙应用的工作

将Android应用修改为鸿蒙（HarmonyOS）应用需要进行一系列主要的工作。以下是在进行这一转换过程中可能需要进行的主要工作，希望对大家有所帮助。北京木奇移动技术有限公司，专业的软件外包开发公司，欢迎交流合作。 1.项目…...

编程日记 2024/1/14 23:50:15

03 Strategy策略

抽丝剥茧设计模式 之 Strategy策略 - 更多内容请见 目录 文章目录 一、Strategy策略二、Comparable和Comparator源码分析使用案例Arrays.sort源码Collections.sort源码Comparable源码Comparator源码 一、Strategy策略 策略模式是一种设计模式，它定义了一系列的算法…...

编程日记 2024/1/14 23:47:12

Python实现分位数回归模型(quantreg算法)项目实战

说明：这是一个机器学习实战项目（附带数据代码文档视频讲解），如需数据代码文档视频讲解可以直接到文章最后获取。 1.项目背景 分位数回归是简单的回归，就像普通的最小二乘法一样，但不是最小化平方误差的总和…...

编程日记 2024/1/14 23:44:10

【ROS2简单例程】基于python的发布订阅实现

1、自定义消息类型Student 1.1 创建base_interfaces_demo包 1.2 创建Student.msg文件 string name int32 age float64 height 1.2 在cmakeLists.txt中增加如下语句 #增加自定义消息类型的依赖 find_package(rosidl_default_generators REQUIRED) # 为接口文件生成源代码 ro…...

编程日记 2024/1/14 23:43:09

【期末考试】数据库综合复习宝典

目录 第一章 数据库系统概述 第二章 关系代数 第四章 关系数据库理论 第五章 数据库设计 第六章 数据库管理系统 第八章 事务管理 第一章 数据库系统概述 1.1三级模式 ①外模式：它为特定的应用程序或用户群体提供了一个数据视图，这个视图是独立于…...

编程日记 2024/1/14 23:41:08

OpenHarmony南向之LCD显示屏

OpenHarmony南向之LCD显示屏 概述 LCD（Liquid Crystal Display）驱动，通过对显示器上下电、初始化显示器驱动IC（Integrated Circuit）内部寄存器等操作，使其可以正常工作。 HDF Display驱动模型 LCD器件驱…...

编程日记 2024/1/14 23:38:06

核心笔记-短篇

接口管理平台：yapi 对象拷贝：Spring Bean 提供的 BeanUtils；hutool-core 提供的 BeanUtil 获得用户设备的信息：导入 UserAgentUtils 依赖；创建 UserAgent 对象使用 加密工具：DigestUtils，Spring Core 提供，静态方法：md5DigestAsHex(byte[]) 客户端编程工具包：HttpCli…...

编程日记 2024/1/14 23:37:04

系统学习Python——警告信息的控制模块warnings：为新版本的依赖关系更新代码

分类目录：《系统学习Python》总目录 在默认情况下，主要针对Python开发者（而不是Python应用程序的最终用户）的警告类别，会被忽略。 值得注意的是，这个“默认忽略”的列表包含DeprecationWarning&#xff08…...

编程日记 2024/1/14 23:35:03

爬虫的基本原理

基本原理 可以把网页与网页之间的链接关系比作节点中的连线，爬虫可以根据网页中的关系获取后续的网页，当整个网站涉及的页面全部被爬虫访问到后，网站的数据就被访问下来了。 1.爬虫概述 简单点讲，爬虫就是获取网页并提取和保存信…...

编程日记 2024/1/14 23:33:00

MySQL核心SQL

一.结构化查询语言 SQL是结构化查询语言（Structure Query Language），它是关系型数据库的通用语言。 SQL 主要可以划分为以下 3 个类别： DDL（Data Definition Languages）语句 数据定义语言，这…...

编程日记 2024/1/14 23:31:59

关于 setData 同步异步的问题

小程序官方文档中的回答解释: 所以大概意思就是: 1.setData在逻辑层的操作是同步，因此this.data中的相关数据会立即更新,比如下面的例子: const a 1 this.setData({b: a ? a : , }) console.log(that.data.b) // 1 2. setData在视图层的操作是异步，…...

编程日记 2024/1/14 23:30:58

CMW500实战指南：BLE射频关键指标测试与优化

1. CMW500与BLE测试基础入门 第一次接触CMW500进行BLE射频测试时，我被这个"黑盒子"复杂的按键界面吓到了。但实际用下来发现，只要掌握几个关键操作，就能快速完成BLE设备的核心指标验证。CMW500作为罗德与施瓦茨的旗舰级测试仪&…...

编程新知 2026/3/28 21:05:38

中兴B863AV3.2-M／B863AV3.1-M2_S905L3A_通刷_优化开机速度_指示灯绿色

中兴B863AV3.2-M／B863AV3.1-M2_S905L3A_通刷_优化开机速度_指示灯绿色线刷方法：1、准备好一根双公头USB线刷刷机线，长度30-50CM长度最佳，同时准备一台电脑；2、电脑上安装好刷机工具Amlogic USB Burning Tool 软件 →打…...

编程新知 2026/3/28 20:35:24

音频编辑新革命：Audacity 4 终极免费解决方案，让专业音频处理触手可及

音频编辑新革命：Audacity 4 终极免费解决方案，让专业音频处理触手可及 【免费下载链接】audacity Audio Editor 项目地址: https://gitcode.com/GitHub_Trending/au/audacity 还在为昂贵的音频编辑软件发愁吗？或者对复杂的音频处理工…...

编程新知 2026/3/28 19:12:51

PCIe设备内存映射IO（MMIO）详解：Non-Prefetchable与Prefetchable到底有啥区别？

PCIe设备内存映射IO（MMIO）深度解析：Non-Prefetchable与Prefetchable的设计哲学与工程实践 当你第一次在PCIe设备的规格书中看到"Non-Prefetchable"和"Prefetchable"这两个术语时，是否感到困惑？这两…...

编程新知 2026/3/28 16:29:22

OpenClaw Agent 核心规则体系深度解构

OpenClaw Agent 核心规则体系深度解构OpenClaw Agent 的核心规则，旨在解决一个根本性矛盾：如何赋予一个基于LLM的、具有“黑盒”特性的程序以高系统权限，同时确保其行为安全、可控、可预测且高效。 这套规则体系是工程化、系统化的&#xff0…...

编程新知 2026/3/28 16:29:22

如何用pose-search在5分钟内构建智能人体姿态分析系统

如何用pose-search在5分钟内构建智能人体姿态分析系统 【免费下载链接】pose-search x6ud.github.io/pose-search 项目地址: https://gitcode.com/gh_mirrors/po/pose-search 你是否曾经想过为你的应用添加实时人体姿态识别功能，但又担心技术门槛太高&#x…...

编程新知 2026/3/28 16:27:22

个人隐私守护者：Qwen-Image-Edit本地化部署，修图数据不出本地

个人隐私守护者：Qwen-Image-Edit本地化部署，修图数据不出本地 想要体验AI修图的魔力，又担心隐私泄露？Qwen-Image-Edit本地化部署方案让你鱼与熊掌兼得。本文将带你从零开始，在本地服务器上部署这款强大的图像编辑工具…...

编程新知 2026/3/28 16:27:20

从Sketchfab下载的glTF模型怎么用？手把手教你用Assimp 5.3.1在Visual Studio 2022里解析《蔚蓝档案》角色数据

从Sketchfab下载的glTF模型实战解析：用Assimp 5.3.1提取《蔚蓝档案》角色数据 当你在Sketchfab上发现一个精美的《蔚蓝档案》角色模型，下载glTF格式文件后，接下来该怎么办？本文将带你从零开始，使用Assimp 5.3.1库在Vi…...

编程新知 2026/3/28 16:09:07

Dify工作流HTTP请求配置进阶指南：从入门到精通

Dify工作流HTTP请求配置进阶指南：从入门到精通 【免费下载链接】Awesome-Dify-Workflow 分享一些好用的 Dify DSL 工作流程，自用、学习两相宜。 Sharing some Dify workflows. 项目地址: https://gitcode.com/GitHub_Trending/aw/Awesome-Dify-Workflo…...

编程新知 2026/3/28 16:09:07

ELK+Metricbeat搭建服务器监控看板：CPU/内存/磁盘全搞定

ELKMetricbeat实战：打造企业级服务器监控看板 当服务器集群规模超过50台时，凌晨三点被电话叫醒处理性能问题的运维人员，最需要的不是咖啡，而是一套能实时呈现CPU、内存、磁盘等关键指标的智能监控系统。本文将手把手带您用ELK Sta…...

编程新知 2026/3/28 15:47:03