当前位置：首页 > news >正文

本地训练中文LLaMA模型实战教程，民间羊驼模型，24G显存盘它！

news 2026/4/7 5:11:03

羊驼实战系列索引

博文1：本地部署中文LLaMA模型实战教程，民间羊驼模型
博文2：本地训练中文LLaMA模型实战教程，民间羊驼模型（本博客）
博文3：精调训练中文LLaMA模型实战教程，民间羊驼模型（马上发布）

简介

在学习完上篇【1本地部署中文LLaMA模型实战教程，民间羊驼模型】后，我们已经学会了下载模型，本地部署模型，部署为网页应用。
如果我们对于模型在某些方面的能力不够满意，想要赋予模型一些特殊的能力，那么我们可以选择领域内特殊的数据集，然后在基础模型上继续训练，从而得到一个新的模型。例如我们可以把医学知识用于训练模型，得到一个医生chatGPT;把佛学资料用于训练模型，得到一个佛祖chatGPT;人类的已有知识是海量的，智慧是无穷的，我相信大家一定有更好的想法！
本博客主要包含以下内容：
1训练数据准备，纯文本txt数据。
2训练脚本编写，主要参数讲解，消耗显存控制在24GB以内
3训练实战，测评。

系统配置

系统：Ubuntu 20.10
CUDA Version: 11.8
GPU: RTX3090 24G
内存: 64 G
anaconda（python版本管理）
RTX3

本地训练中文LLaMA模型实战教程，民间羊驼模型，24G显存盘它！

羊驼实战系列索引博文1：本地部署中文LLaMA模型实战教程，民间羊驼模型博文2：本地训练中文LLaMA模型实战教程，民间羊驼模型（本博客）博文3：精调训练中文LLaMA模型实战教程，民间羊驼模型（马上发布）简介在学习完上篇【1本地部署中文LLaMA模型实战教程，民间羊驼模…...

编程日记 2023/5/29 15:02:31

快速学Go依赖注入工具wire

Go相对java和C是较新的语言，但也有诸多优秀特性及生态库。本文介绍大多数软件工程中常用的功能：依赖注入。首先介绍什么是依赖注入，go实现库wire与其他语言的差异。然后通过简单示例实现依赖注入，简化代码、提升可读性。依赖注入…...

编程日记 2023/5/29 15:03:34

python入门（4）流程控制语句

1. 条件判断语句条件控制语句用于根据条件来决定程序的执行路径。在Python中，常见的条件控制语句有以下几种： （1）if语句：用于执行满足条件的代码块。示例代码： age 20 if age > 18:print("成年…...

编程日记 2023/5/25 9:10:13

【进阶】C 语言表驱动法编程原理与实践

数据压倒一切。如果选择了正确的数据结构并把一切组织的井井有条，正确的算法就不言自明。编程的核心是数据结构，而不是算法。——Rob Pike 目录说明概念提出查表方式直接查找索引查找分段查找实战示例字符统计月天校验名称构造值名…...

编程日记 2023/6/1 5:38:45

java+springboot留学生新闻资讯网的设计与实现

Spring框架是Java平台的一个开放源代码的Full-stack(全栈)应用程序框架，和控制翻转容器的实现。Spring框架的一些核心功能理论，可以用于所有Java应用，Spring还为Java EE构建的Web应用提供大量的扩展支持。Spring框架没有实现任何的编程模型&a…...

编程日记 2023/5/30 19:21:49

分布式事务与分布式锁区别及概念学习

一、分布式事务 1.1 背景传统事务ACID是基于单数据库的本地事务，仅支持单机事务，并不支持跨库事务。但随着微服务架构的普及，业务的分库分表导致一个大型业务系统往往由若干个子系统构成，这些子系统又拥有各自独立的数据库。往往一个业务流程需要由多个子系统共同完成，…...

编程日记 2023/5/30 1:00:49

windows先的conda环境复制到linux环境

如果是迁移的环境一致：同是windows或同是linux直接用这个命令即可： conda create -n new_env_name --clone old_env_path 如果是window的环境迁移到linux这种跨环境就不能用上面的方法，网上这方面的资料也很多，记录一下我的…...

编程日记 2023/5/25 8:50:09

庄懂的TA笔记（十七）＜特效：屏幕UV + 屏幕扰动＞

庄懂的TA笔记（十七）＜特效：屏幕UV 屏幕扰动＞ 大纲： 目录庄懂的TA笔记（十七）＜特效：屏幕UV 屏幕扰动＞ 大纲： 正文： 一…...

编程日记 2023/5/25 8:45:08

手写简易RPC框架

目录简介服务提供者服务注册：注册中心 HttpServerHandler处理远程调用请求 consumer服务消费端简介 RPC（Remote Procedure Call）——远程过程调用，它是一种通过网络从远程计算机程序上请求服务， 而不需要了解…...

编程日记 2023/6/1 7:35:30

基于孪生网络的目标跟踪

一、目标跟踪目标跟踪是计算机视觉领域研究的一个热点问题，其利用视频或图像序列的上下文信息，对目标的外观和运动信息进行建模，从而对目标运动状态进行预测并标定目标的位置。具体而言，视觉目标（单目标）…...

编程日记 2023/5/31 8:01:35

苏州狮山广场能耗管理系统

摘要：随着社会生活水平的提高，经济的繁荣发展，人们对能源的需求逐渐增长，由此带来的能源危机日益严重。商场如何实时的了解、分析和控制商场的能源消耗已成为需要解决的迫在眉睫的难题。传统的能源消耗智能以月/季度/年为周期进行…...

编程日记 2023/5/30 13:32:20

Jupyter Notebook 10个提升体验的高级技巧

Jupyter 笔记本是数据科学家和分析师用于交互式计算、数据可视化和协作的工具。Jupyter 笔记本的基本功能大家都已经很熟悉了，但还有一些鲜为人知的技巧可以大大提高生产力和效率。在这篇文章中，我将介绍10个可以提升体验的高级技巧。改变注释的颜色颜…...

编程日记 2023/5/25 8:25:03

CF 751 --B. Divine Array

Black is gifted with a Divine array a consisting of n (1≤n≤2000) integers. Each position in a has an initial value. After shouting a curse over the array, it becomes angry and starts an unstoppable transformation. The transformation consists of infinite…...

编程日记 2023/5/25 8:20:02

Springcloud1---＞Eureka注册中心

目录 Eureka原理Eureka入门案例编写EurekaServer将user-service注册到Eureka消费者从Eureka获取服务 Eureka详解基础架构高可用的Eureka Server失效剔除和自我保护 Eureka原理 Eureka：就是服务注册中心（可以是一个集群），对外暴露自…...

编程日记 2023/5/29 15:05:28

面试阿里、字节全都一面挂，被面试官说我的水平还不如应届生

测试员可以先在大厂镀金，以后去中小厂毫无压力，基本不会被卡，事实果真如此吗？但是在我身上却是给了我很大一巴掌... 所谓大厂镀金只是不卡简历而已，如果面试答得稀烂，人家根本不会要你。况且要不是大厂出来…...

编程日记 2023/5/25 8:10:00

JAVA开发（记一次删除完全相同pgSQL数据库记录只保留一条）

进行数据管理时，无效数据可能会对生产力和决策质量造成严重的影响。如何发现和处理无效数据变得愈发重要。一起来唠唠你会如何处理无效数据吧~ 方向一：介绍无效数据的概念最近遇到了pg数据库表中的大量数据重复了，需要删除其中的一条。一条…...

编程日记 2023/5/25 8:04:58

音视频八股文（7）-- 音频aac adts三层结构

AAC介绍 AAC（Advanced Audio Coding）是一种现代的音频编码技术，用于数字音频的传输和存储领域。AAC是MPEG-2和MPEG-4标准中的一部分，可提供更高质量的音频数据，并且相比于MP3等旧有音频格式，AAC需要更少的…...

编程日记 2023/6/1 7:10:59

Docker代码环境打包进阶 - DockerHub分享镜像

1. Docker Hub介绍 Docker Hub是一个广泛使用的容器镜像注册中心，为开发人员提供了方便的平台来存储、共享和分发Docker容器镜像。它支持版本控制、访问控制和自动化构建，并提供了丰富的公共镜像库，方便开发人员快速获取和使用各种开源应用和…...

编程日记 2023/5/25 7:54:57

SQL进阶-having子句的力量

SQL进阶-having子句的力量 having子句是理解SQL面向集合这一本质的关键。在以前的SQL标准里面，having子句必须和group by子句一起使用，但是按照现在的SQL标准，having子句是可以单独使用的可以与case 表达式或者自连接等结合使用。表不是文件…...

编程日记 2023/5/30 13:33:44

Electron 如何创建模态窗口？

目录前言一、模态窗口1.Web页面模态框2.Electron中的模态窗口3.区分父子窗口与模态窗口二、实际案例使用总结前言模态框是一种常用的交互元素，无论是在 Web 网站、桌面应用还是移动 APP 中，都有其应用场景。模态框指的是一种弹出窗口，它…...

编程日记 2023/5/31 19:02:45

SecGPT-14B模型微调：OpenClaw自动化准备标注数据与训练脚本

SecGPT-14B模型微调：OpenClaw自动化准备标注数据与训练脚本 1. 为什么需要自动化微调流程当我第一次尝试微调SecGPT-14B模型时，最让我头疼的不是模型本身，而是那些繁琐的前期准备工作。作为安全领域的从业者，我深知专业数据的价…...

编程新知 2026/4/7 5:02:51

从单机到网络存储：用Windows Server自带的iSCSI功能，5分钟为你的测试机挂载个‘云硬盘’

从单机到网络存储：5分钟用Windows Server打造高效iSCSI共享空间在软件开发与测试工作中，我们经常遇到需要快速共享存储空间的场景。无论是团队协作开发、自动化测试日志收集，还是临时搭建的演示环境，一个灵活高效的网络存储解决方…...

编程新知 2026/4/7 4:21:58

知识库别往System Prompt塞了！我用Skill Loading把3000 tokens压缩到100，省下66%成本

上篇我们诊断了System Prompt膨胀病，这篇给解药。用Skill Loading机制把3000 tokens的垃圾场变成100 tokens的图书馆，60行代码实现知识按需加载，API成本直接砍半。 Skill Loading核心机制类比：图书馆借书流程图书馆不会把所有书…...

编程新知 2026/4/7 3:22:55

免费商用AI绘画：Bidili Generator基于SDXL，LoRA风格一键切换

免费商用AI绘画：Bidili Generator基于SDXL，LoRA风格一键切换 1. 项目概述：当SDXL遇上Bidili风格在AI绘画领域，Stable Diffusion XL（SDXL）1.0已经成为开源图像生成的标杆模型。而Bidili Generator正是在这…...

编程新知 2026/4/7 2:35:24

鸣潮游戏自动化工具终极指南：解放双手的智能战斗与资源收集助手

鸣潮游戏自动化工具终极指南：解放双手的智能战斗与资源收集助手【免费下载链接】ok-wuthering-waves 鸣潮后台自动战斗自动刷声骸一键日常 Automation for Wuthering Waves 项目地址: https://gitcode.com/GitHub_Trending/ok/ok-wuthering-waves 欢迎来…...

编程新知 2026/4/7 2:29:22

ArdTap：Arduino零代码现场调试框架

1. ArdTap：面向嵌入式现场调试的零代码移动配置框架1.1 工程定位与设计哲学ArdTap 是一个专为 Arduino 生态设计的轻量级远程管理库，其核心目标并非替代传统固件开发流程，而是解决嵌入式系统在部署后阶段的现场参数调优、运行状态监控与快速功…...

编程新知 2026/4/7 1:56:59

Win11安装Claude-Code出现报错问题解决

现象在安装Claude-Code的时候，执行 irm https://claude.ai/install.ps1 | iex在开启科学上网的前提下，出现以下报错以管理员命令直接打开 PowderShell 输入 winget install Anthropic.ClaudeCode，问题解决！...

编程新知 2026/4/7 1:46:44