本地训练中文LLaMA模型实战教程，民间羊驼模型，24G显存盘它！
羊驼实战系列索引
博文1：本地部署中文LLaMA模型实战教程，民间羊驼模型
博文2：本地训练中文LLaMA模型实战教程，民间羊驼模型（本博客）
博文3：精调训练中文LLaMA模型实战教程，民间羊驼模型（马上发布）
简介
在学习完上篇【1本地部署中文LLaMA模型实战教程，民间羊驼模型】后，我们已经学会了下载模型，本地部署模型，部署为网页应用。
如果我们对于模型在某些方面的能力不够满意，想要赋予模型一些特殊的能力，那么我们可以选择领域内特殊的数据集，然后在基础模型上继续训练，从而得到一个新的模型。例如我们可以把医学知识用于训练模型，得到一个医生chatGPT;把佛学资料用于训练模型，得到一个佛祖chatGPT;人类的已有知识是海量的，智慧是无穷的，我相信大家一定有更好的想法！
本博客主要包含以下内容：
1训练数据准备，纯文本txt数据。
2训练脚本编写，主要参数讲解，消耗显存控制在24GB以内
3训练实战，测评。
系统配置
系统：Ubuntu 20.10
CUDA Version: 11.8
GPU: RTX3090 24G
内存: 64 G
anaconda（python版本管理）
RTX3
相关文章：
本地训练中文LLaMA模型实战教程，民间羊驼模型，24G显存盘它！
羊驼实战系列索引 博文1：本地部署中文LLaMA模型实战教程，民间羊驼模型 博文2：本地训练中文LLaMA模型实战教程，民间羊驼模型（本博客） 博文3：精调训练中文LLaMA模型实战教程，民间羊驼模型（马上发布） 简介 在学习完上篇【1本地部署中文LLaMA模型实战教程，民间羊驼模…...
快速学Go依赖注入工具wire
Go相对java和C是较新的语言，但也有诸多优秀特性及生态库。本文介绍大多数软件工程中常用的功能：依赖注入。首先介绍什么是依赖注入，go实现库wire与其他语言的差异。然后通过简单示例实现依赖注入，简化代码、提升可读性。 依赖注入…...
python入门（4）流程控制语句
1. 条件判断语句 条件控制语句用于根据条件来决定程序的执行路径。在Python中，常见的条件控制语句有以下几种： （1）if语句：用于执行满足条件的代码块。示例代码： age 20 if age > 18:print("成年…...
【进阶】C 语言表驱动法编程原理与实践
数据压倒一切。如果选择了正确的数据结构并把一切组织的井井有条，正确的算法就不言自明。编程的核心是数据结构，而不是算法。——Rob Pike 目录 说明 概念提出 查表方式 直接查找 索引查找 分段查找 实战示例 字符统计 月天校验 名称构造 值名…...
java+springboot留学生新闻资讯网的设计与实现
Spring框架是Java平台的一个开放源代码的Full-stack(全栈)应用程序框架，和控制翻转容器的实现。Spring框架的一些核心功能理论，可以用于所有Java应用，Spring还为Java EE构建的Web应用提供大量的扩展支持。Spring框架没有实现任何的编程模型&a…...
分布式事务与分布式锁区别及概念学习
一、 分布式事务 1.1 背景 传统事务ACID是基于单数据库的本地事务，仅支持单机事务，并不支持跨库事务。但随着微服务架构的普及，业务的分库分表导致一个大型业务系统往往由若干个子系统构成，这些子系统又拥有各自独立的数据库。往往一个业务流程需要由多个子系统共同完成，…...
windows先的conda环境复制到linux环境
如果是迁移的环境一致：同是windows或同是linux直接用这个命令即可： conda create -n new_env_name --clone old_env_path 如果是window的环境迁移到linux这种跨环境就不能用上面的方法，网上这方面的资料也很多，记录一下我的…...
庄懂的TA笔记（十七）＜特效：屏幕UV + 屏幕扰动＞
庄懂的TA笔记（十七）＜特效：屏幕UV 屏幕扰动＞ 大纲： 目录 庄懂的TA笔记（十七）＜特效：屏幕UV 屏幕扰动＞ 大纲： 正文： 一…...
手写简易RPC框架
目录 简介 服务提供者 服务注册：注册中心 HttpServerHandler处理远程调用请求 consumer服务消费端 简介 RPC（Remote Procedure Call）——远程过程调用，它是一种通过网络从远程计算机程序上请求服务， 而不需要了解…...
基于孪生网络的目标跟踪
一、目标跟踪 目标跟踪是计算机视觉领域研究的一个热点问题，其利用视频或图像序列的上下文信息，对目标的外观和运动信息进行建模，从而对目标运动状态进行预测并标定目标的位置。具体而言，视觉目标（单目标）…...
苏州狮山广场能耗管理系统
摘要：随着社会生活水平的提高，经济的繁荣发展，人们对能源的需求逐渐增长，由此带来的能源危机日益严重。商场如何实时的了解、分析和控制商场的能源消耗已成为需要解决的迫在眉睫的难题。传统的能源消耗智能以月/季度/年为周期进行…...
Jupyter Notebook 10个提升体验的高级技巧
Jupyter 笔记本是数据科学家和分析师用于交互式计算、数据可视化和协作的工具。Jupyter 笔记本的基本功能大家都已经很熟悉了，但还有一些鲜为人知的技巧可以大大提高生产力和效率。在这篇文章中，我将介绍10个可以提升体验的高级技巧。 改变注释的颜色 颜…...
CF 751 --B. Divine Array
Black is gifted with a Divine array a consisting of n (1≤n≤2000) integers. Each position in a has an initial value. After shouting a curse over the array, it becomes angry and starts an unstoppable transformation. The transformation consists of infinite…...
Springcloud1---＞Eureka注册中心
目录 Eureka原理Eureka入门案例编写EurekaServer将user-service注册到Eureka消费者从Eureka获取服务 Eureka详解基础架构高可用的Eureka Server失效剔除和自我保护 Eureka原理 Eureka：就是服务注册中心（可以是一个集群），对外暴露自…...
面试阿里、字节全都一面挂，被面试官说我的水平还不如应届生
测试员可以先在大厂镀金，以后去中小厂毫无压力，基本不会被卡，事实果真如此吗？但是在我身上却是给了我很大一巴掌... 所谓大厂镀金只是不卡简历而已，如果面试答得稀烂，人家根本不会要你。况且要不是大厂出来…...
JAVA开发（记一次删除完全相同pgSQL数据库记录只保留一条）
进行数据管理时，无效数据可能会对生产力和决策质量造成严重的影响。如何发现和处理无效数据变得愈发重要。一起来唠唠你会如何处理无效数据吧~ 方向一：介绍无效数据的概念 最近遇到了pg数据库表中的大量数据重复了，需要删除其中的一条。一条…...
音视频八股文（7）-- 音频aac adts三层结构
AAC介绍 AAC（Advanced Audio Coding）是一种现代的音频编码技术，用于数字音频的传输和存储领域。AAC是MPEG-2和MPEG-4标准中的一部分，可提供更高质量的音频数据，并且相比于MP3等旧有音频格式，AAC需要更少的…...
Docker代码环境打包进阶 - DockerHub分享镜像
1. Docker Hub介绍 Docker Hub是一个广泛使用的容器镜像注册中心，为开发人员提供了方便的平台来存储、共享和分发Docker容器镜像。它支持版本控制、访问控制和自动化构建，并提供了丰富的公共镜像库，方便开发人员快速获取和使用各种开源应用和…...
SQL进阶-having子句的力量
SQL进阶-having子句的力量 having子句是理解SQL面向集合这一本质的关键。 在以前的SQL标准里面，having子句必须和group by子句一起使用，但是按照现在的SQL标准，having子句是可以单独使用的 可以与case 表达式或者自连接等结合使用。表不是文件…...
Electron 如何创建模态窗口？
目录 前言一、模态窗口1.Web页面模态框2.Electron中的模态窗口3.区分父子窗口与模态窗口 二、实际案例使用总结 前言 模态框是一种常用的交互元素，无论是在 Web 网站、桌面应用还是移动 APP 中，都有其应用场景。模态框指的是一种弹出窗口，它…...
Lombok 的 @Data 注解失效，未生成 getter/setter 方法引发的HTTP 406 错误
HTTP 状态码 406 (Not Acceptable) 和 500 (Internal Server Error) 是两类完全不同的错误，它们的含义、原因和解决方法都有显著区别。以下是详细对比： 1. HTTP 406 (Not Acceptable) 含义： 客户端请求的内容类型与服务器支持的内容类型不匹…...
逻辑回归：给不确定性划界的分类大师
想象你是一名医生。面对患者的检查报告（肿瘤大小、血液指标），你需要做出一个**决定性判断**：恶性还是良性？这种“非黑即白”的抉择，正是**逻辑回归（Logistic Regression）** 的战场&a…...
Module Federation 和 Native Federation 的比较
前言 Module Federation 是 Webpack 5 引入的微前端架构方案，允许不同独立构建的应用在运行时动态共享模块。 Native Federation 是 Angular 官方基于 Module Federation 理念实现的专为 Angular 优化的微前端方案。 概念解析 Module Federation (模块联邦) Modul…...
【数据分析】R版IntelliGenes用于生物标志物发现的可解释机器学习
禁止商业或二改转载，仅供自学使用，侵权必究，如需截取部分内容请后台联系作者! 文章目录 介绍流程步骤1. 输入数据2. 特征选择3. 模型训练4. I-Genes 评分计算5. 输出结果 IntelliGenesR 安装包1. 特征选择2. 模型训练和评估3. I-Genes 评分计…...
STM32---外部32.768K晶振（LSE）无法起振问题
晶振是否起振主要就检查两个1、晶振与MCU是否兼容；2、晶振的负载电容是否匹配 目录 一、判断晶振与MCU是否兼容 二、判断负载电容是否匹配 1. 晶振负载电容（CL）与匹配电容（CL1、CL2）的关系 2. 如何选择 CL1 和 CL…...
uniapp 小程序 学习（一）
利用Hbuilder 创建项目 运行到内置浏览器看效果 下载微信小程序 安装到Hbuilder 下载地址 ：开发者工具默认安装 设置服务端口号 在Hbuilder中设置微信小程序 配置 找到运行设置，将微信开发者工具放入到Hbuilder中， 打开后出现 如下 bug 解…...
Python 训练营打卡 Day 47
注意力热力图可视化 在day 46代码的基础上，对比不同卷积层热力图可视化的结果 import torch import torch.nn as nn import torch.optim as optim from torchvision import datasets, transforms from torch.utils.data import DataLoader import matplotlib.pypl…...
《信号与系统》第 6 章 信号与系统的时域和频域特性
目录 6.0 引言 6.1 傅里叶变换的模和相位表示 6.2 线性时不变系统频率响应的模和相位表示 6.2.1 线性与非线性相位 6.2.2 群时延 6.2.3 对数模和相位图 6.3 理想频率选择性滤波器的时域特性 6.4 非理想滤波器的时域和频域特性讨论 6.5 一阶与二阶连续时间系统 6.5.1 …...
解析“道作为序位生成器”的核心原理
解析“道作为序位生成器”的核心原理 以下完整展开道函数的零点调控机制，重点解析"道作为序位生成器"的核心原理与实现框架： 一、道函数的零点调控机制 1. 道作为序位生成器 道在认知坐标系$(x_{\text{物}}, y_{\text{意}}, z_{\text{文}}…...
对象回调初步研究
_OBJECT_TYPE结构分析 在介绍什么是对象回调前，首先要熟悉下结构 以我们上篇线程回调介绍过的导出的PsProcessType 结构为例，用_OBJECT_TYPE这个结构来解析它，0x80处就是今天要介绍的回调链表，但是先不着急，先把目光…...