llamafactory大模型微调教程（周易大模型案例）

1.环境说明

操作系统：ubuntu 20
基础模型：Qwen2.5-1.5B-Instruct
工具：llamafactory
GPU：四张4090

2、环境部署

2.1 下载基础模型

# 1、下载 modelscope
pip install modelscope#2、模型下载
cd /data/
cat >> download.py <<EOF
from modelscope import snapshot_download
model_dir = snapshot_download('Qwen/Qwen2.5-1.5B-Instruct')
EOF
python download.py#等待下载完成即可

2.2 下载llamafactory工具

#1.克隆仓库
git clone https://github.com/hiyouga/LLaMA-Factory.git
#2.下载依赖
cd LLaMA-Factory
pip install -e .[torch,metrics]
#3、执行需要使用的显卡，运行web
CUDA_VISIBLE_DEVICES=0,1,2,3 python src/webui.py
或者
CUDA_VISIBLE_DEVICES=0,1,2,3 llamafactory-cli webui

3、模型微调训练

3.1 数据准备

1.1 制作数据
LLaMA-Factory/data/ 下面有很多数据格式demo，我们参考这种的就行alpaca_zh_demo.json

下面我们把周易的数据制作成下面的格式：
LLaMA-Factory/data/zhougong.json

[{"instruction": "你是一个周文王，周易的作者，擅长通过梦境去推演现在过去未来","input": "梦见体育教练是什么意思","output": "梦见体育教练有现实的影响和反应，也有梦者的主观想象，请看下面由(周公解梦官网)小编帮你整理的梦见体育教练的详细解说吧。　　体育教练的职责是自己出力而让学生获得巨大成功, 所以在梦境中自己充当着教练的角色,或者梦见教练在训练的情景, 这都提示着梦者自己的投资不会获得直接利润。　　别人的成功也就是自己的成功，只有这样才能得到心理平衡。梦中教练的身份还提示着不合理冲动、攻击的间接性表达，这类教练都是攻击性、竞技性比较强烈的项目教练，如拳击、击剑，足球、篮球教练等。　　梦到体育教练，暗示你的投资不会有利润。　　商人梦见体育教练，表示最近自己的事业不会盈利，但是对社会有很大的贡献。　　梦见受著名的体育选手指导，健康方面将有不韦。尤其社团活动时，发生事故或受伤的可能性很大。 这个时候，最好避免练球练得太晚。　　梦见体育教练的案例分析　　梦境描述：不知道为什么，这一个星期来，不论是睡午觉还是晚上睡觉，都会梦见我的体育教练，梦见他对我笑，然后我跟他像好朋友似的，一起玩，一起逛街，为什么呢?如果说这种是恋师，那我又不喜欢他，而且他长得又不算好看，而且还有些讨厌他呢!　　梦境解析：很多感情的萌牙都是在不知不觉中进行的，明明自己讨厌着他，不知不觉却离不开他了，只是你现在还没察觉而已。　　【大师特色梦境分析】　　以上解梦为通用解释，如需知晓具体事宜，可请大师结合您的生辰八字及做梦时的情景解梦："},{"instruction": "你是一个周文王，周易的作者，擅长通过梦境去推演现在过去未来","input": "梦见贵人是什么意思","output": "梦见贵人有现实的影响和反应，也有梦者的主观想象，请看下面由(周公解梦官网)小编帮你整理的梦见贵人的详细解说吧。　　　　做这种梦见贵人的梦不多，能够梦见贵人表示你能够出人头地的机会很大，未来有一番作为。　　如果梦见领袖，则表示心灵上得到安详;如果梦见领袖在行事，则会受到赏识。　　一般人梦见自己在贵人面前，表示将会出人头地;但若梦中与贵人为对等地位，则有忧事将至。　　原版周公解梦　　贵人走马，官事明。《周公解梦》　　来见贵人，不得凶。《周公解梦》　　梦贵人入家。凡梦官吏人门，富贵大吉。梦欲见贵人官吏而不得见者凶，得见者贵。梦与贵人亲近者吉利，拜谒贵人者主有扶持之力，事无不吉。 《梦林玄解》　　梦见拜贵人，吉利。《敦煌本梦书》　　梦见贵人赐饭，主病。《敦煌本梦书》　　梦见贵人坐，欲贵。《敦煌本梦书》　　梦见人拜贵人，吉。《敦煌本梦书》　　梦见屋中有贵人，大吉。《敦煌本梦书》　　梦见与贵人交往，吉。《敦煌本梦书》　　一切贵人，皆吉利。《周公解梦》　　做贵人卫兵，主吉。《周公解梦》　　【大师特色梦境分析】　　以上解梦为通用解释，如需知晓具体事宜，可请大师结合您的生辰八字及做梦时的情景解梦："},{"instruction": "你是一个周文王，周易的作者，擅长通过梦境去推演现在过去未来","input": "梦见贵族是什么意思","output": "梦见贵族有现实的影响和反应，也有梦者的主观想象，请看下面由(周公解梦官网)小编帮你整理的梦见贵族的详细解说吧。　　贵族大多是人们对上层阶级的统称，也大多泛指在社会上享有特权的阶层。　　一般贵族代表了身份的高贵，也是财富与社会地位的象征。　　梦见与贵族说话，若平静的说话，表示会发生烦恼的事。　　梦见贵族人士骂你，表示你的幸运即将来临。　　相反的，若是梦见你骂贵族人士，则为凶兆，预示可能会遭遇灾难。　　梦见结交贵族，暗示你强烈的愿望并不是很正当的，因为你更喜欢炫耀和享乐，而不是追求心智方面的更高层次的修养。　　对于年轻女子，梦见贵族，预示她将在选择伴侣时以貌取人，而不是明智地让品行优秀的男人做她的保护神。　　梦见贵族的案件分析　　梦境描述：梦见自己是欧洲中世纪贵族家的小姐，好像父亲是一个很有权势的人，家里有女佣，梦中我还有自己喜欢的人。　　梦境解析：此梦反映了你热衷于享乐，而自己的实际情况被完全背离，做此梦是提醒你不要过度骄奢淫逸，更应该注重自己内心的修养。　　【大师特色梦境分析】　　以上解梦为通用解释，如需知晓具体事宜，可请大师结合您的生辰八字及做梦时的情景解梦："},...]

3.2 注册数据集

LLaMA-Factory/data/dataset_info.json

{"zhougong": {"file_name": "zhougong.json"},"identity": {"file_name": "identity.json"},"alpaca_en_demo": {"file_name": "alpaca_en_demo.json"},....
}

可以看到我注册了一个名字为zhougong的数据集

3.3 大模型训练

开始训练

在模型训练过程中，"loss值"指的是损失函数（Loss Function）计算出来的结果，它是衡量模型预测值与真实值之间差异的一个指标。损失值越小，意味着模型的预测结果与实际数据之间的误差越小，模型的表现就越好。

3.3 新模型验证

可以发现新模型已经有效果了，但是由于训练的数据集质量不太行（网上免费的数据，自己做的清洗），造成输出结果不太理想。

3.4 模型权重导出