llama使用tutorial微调（windows版本）
Llama3-Tutorial/docs/assistant.md at main · SmartFlowAI/Llama3-Tutorial · GitHub
有一些命令需要修改
前期的安装还是要按照教程搞的
streamlit run ~/Llama3-Tutorial/tools/internstudio_web_demo.py \
~/model/Meta-Llama-3-8B-Instruct
改为了
streamlit run .\Llama3-Tutorial\tools\internstudio_web_demo.py .\model\Meta-Llama-3-8B-Instruct\（注意自己的路径）
剩下的都是我修改后的
1.xtuner train configs/assistant/llama3_8b_instruct_qlora_assistant.py --work-dir ../llama3_pth
2.注意llama3_8b_instruct_qlora_assistant.py也需要修改对应的目录路径
pretrained_model_name_or_path = 'D:\llama3-boss-train\model\Meta-Llama-3-8B-Instruct'use_varlen_attn = Falsedata_files = ['D:\llama3-boss-train\Llama3-Tutorial\data\personal_assistant.json']3. xtuner convert pth_to_hf .\llama3_pth\llama3_8b_instruct_qlora_assistant.py .\llama3_pth\iter_288.pth .\llama3_hf_adapter
4.set MKL_SERVICE_FORCE_INTEL=1
>> xtuner convert merge --device auto .\model\Meta-Llama-3-8B-Instruct .\llama3_hf_adapter .\llama3_hf_merged
5.streamlit run .\Llama3-Tutorial\tools\internstudio_web_demo.py .\llama3_hf_merged
推荐1200
相关文章：
llama使用tutorial微调（windows版本）
Llama3-Tutorial/docs/assistant.md at main SmartFlowAI/Llama3-Tutorial GitHub 有一些命令需要修改 前期的安装还是要按照教程搞的 streamlit run ~/Llama3-Tutorial/tools/internstudio_web_demo.py \ ~/model/Meta-Llama-3-8B-Instruct 改为了 streamlit run .\Ll…...
MyBatis操作数据库（动态SQL）
1 动态SQL 动态SQL是MyBatis的特征之一，能够完成不同条件下不同的SQL拼接 1.1 <if>标签 在注册用户的时候，可能会有这样一个问题，由于注册分为两种字段：必填字段和非必填字段，如果在添加用户的时候有不确定的…...
python发票真伪查验开发文档、票据OCR、数电票查验
想象一下，只需一行行简洁的代码，复杂繁琐的发票审核工作瞬间变得井然有序。翔云发票查验开发文档详尽易懂，即便是Python新手也能迅速上手，搭建起自己的发票真伪查验系统。无论是纸质发票的扫描图像，还是电子发票的数据…...
Unity构建详解（12）——自动构建
【前言】 自动构建是指整个构建流程不需要人工操作，只需要输入启动构建指令即可获取构建结果。实现这样的自动构建需要满足以下条件： 支持命令行参数启动 我们不可能每次构建时都打开Unity去手动点击构建，必须支持通过命令行启动Unity自动执…...
中文编程降低了中文环境下编程入门的门槛
近年来，随着编程技术的普及和中文编程环境的日益成熟，越来越多的开发者开始使用中文进行编程。中文编程不仅提高了代码的可读性和理解性，而且在一定程度上降低了中文环境下编程的入门门槛。本文将详细探讨中文编程的优势，以及它如…...
通过内网穿透免费部署我们的springboot+vue项目 实现跟服务器一样的效果
前文讲到通过内网穿透能够实现远程访问个人电脑的静态资源。本文将讲解通过内网穿透实现远程访问本地的项目，实现跟部署到服务器一样的效果：前文链接：通过内网穿透实现远程访问个人电脑资源详细过程（免费）（…...
SMB攻击利用之-mimikatz上传/下载流量数据包逆向分析
SMB协议作为windows环境下最为常见的一种协议，在历史上出现过无数的通过SMB协议进行网络攻击利用的案例，包括针对SMB协议本身以及通过SMB协议实施网络攻击。 本文将介绍一种通过SMB协议的常见利用方式，即向远程主机传输mimikatz，作为我的专栏《SMB攻击流量数据包分析》中的…...
Mysql常见数据类型探索
Mysql常见数据类型探索 数值类型 MySQL 支持所有标准 SQL 数值数据类型。 这些类型包括严格数值数据类型(INTEGER、SMALLINT、DECIMAL 和 NUMERIC)，以及近似数值数据类型(FLOAT、REAL 和 DOUBLE PRECISION)。 关键字INT是INTEGER的同义词，关键字DEC是…...
2024 年第四届长三角高校数学建模竞赛赛题B题超详细解题思路+问题一二代码分享
2024年第四届长三角数学建模竞赛B题详细解题思路 赛道B：人工智能范式的物理化学家 长三角分享资料（问题一代码论文思路）链接（18点更新）： 链接：https://pan.baidu.com/s/1lteKvIWNZ4v-Gd7oOcg…...
干货速学！1+X电子商务数据分析：电子商务数据分析的流程
电商数据采集API接口 生活中的数据分析 日常工作和生活中处处都有数据分析的存在，比如消费者在购买不同商品前，经常会对儿“性价比”进行简单分析，价格表现为固定的货币数字。性能则具体体现在商品质量、客户收务等客观因素和客户对该商品的需…...
618好物推荐大赏：2024年必囤好物一网打尽，购物攻略助你抢购无忧！
在618购物狂欢节来临之际，我为大家精心挑选了一系列好物，它们不仅品质卓越，更能在日常生活中为我们带来无限便利与乐趣。这里的每一款产品都经过我严格筛选，只为给你最优质的购物体验。让我们一起在这个618，发现生活中…...
)
【MySQL】基础操作(DDL,DML,DCL,DQL)
安装教程自行搜索，网上有很多 用户名设置为 root密码设置为 123456可以不这样设置，但要记好用户名密码，相关的代码也要自行更改 打开命令提示符程序(winR打开输入cmd回车) 输入：mysql -uroot -p 回车输入密码即可进入命令行环境…...
工厂自动化升级改造（3）-Modbus与MQTT的转换
什么是MQTT，Modbus，见下面文章 工厂自动化升级改造参考（01）--设备通信协议详解及选型-CSDN博客文章浏览阅读608次，点赞9次，收藏6次。>>特点：基于标准的以太网技术，使用TCP/IP协议栈，支持高速数据传输和局域网内的设备通信。>>>特点：跨平台的通信协议，…...
InnoDB 事务处理机制
文章目录 前言1. 事务处理挑战1.1 事务机制处理的问题1.2 并发事务带来的问题 2. InnodDB 和 ACID 模型2.1 Innodb Buffer Pool2.2 Redo log2.3 Undo log2.4 应用案例 3. 隔离级别和锁机制3.1 事务隔离级别3.1.1 READ UNCOMMITTED3.1.2 READ COMMITTED3.1.3 REPEATABLE READ3.1…...
Thymeleaf
替代jsp 功能：服务器渲染（就是将服务器的数据展示在网页上） 1、MVC概念 model 模型 javaBean(User/Book/Order...) View视图 html 服务器的动态数据 Controller控制器 Servlet MVC是在表述层开发运用的一种设计理念。主张把封装数据…...
网络学习（一）｜深入了解API网关：定义、功能和关键术语
文章目录 定义主要功能关键术语 定义 API 网关（API Gateway）是一个核心的服务架构组件，用于管理、路由和保护对后端服务的访问。它充当了系统内外的接口，负责接收来自客户端的请求，并将其路由到相应的后端服务&#x…...
基于yolov8+flask搭建一个web版本的网页模型预测系统
测试环境： anaconda3python3.8 torch1.9.0cu111 ultralytics8.2.2 首先我们将训练好的权重放在weights目录下面 并将名字改成yolov8n.pt，如果不想改可以在代码app.py都把路径改过来即可。然后我们打开 python app.py之后看到 我们点击选择文件支持图…...
【北京迅为】《iTOP-3588从零搭建ubuntu环境手册》-第8章 安装编译所需要的依赖包
RK3588是一款低功耗、高性能的处理器，适用于基于arm的PC和Edge计算设备、个人移动互联网设备等数字多媒体应用，RK3588支持8K视频编解码，内置GPU可以完全兼容OpenGLES 1.1、2.0和3.2。RK3588引入了新一代完全基于硬件的最大4800万像素ISP&…...
牛客热题：合并二叉树
牛客热题：二叉树与双向链表> 📟作者主页：慢热的陕西人 🌴专栏链接：力扣刷题日记 📣欢迎各位大佬👍点赞🔥关注🚓收藏，🍉留言 文章目录 牛客热题…...
conda 常用20个命令
conda常用20个命令 这些命令涵盖了Conda环境管理和包管理的常用功能，可帮助你有效地管理Python环境和软件包。 创建环境： conda create --name myenv这个命令用于创建一个名为myenv的新环境。你可以在--name后面指定环境的名称，并在其后加上…...
浏览器访问 AWS ECS 上部署的 Docker 容器（监听 80 端口）
✅ 一、ECS 服务配置 Dockerfile 确保监听 80 端口 EXPOSE 80 CMD ["nginx", "-g", "daemon off;"]或 EXPOSE 80 CMD ["python3", "-m", "http.server", "80"]任务定义（Task Definition&…...
2025年能源电力系统与流体力学国际会议 (EPSFD 2025)
2025年能源电力系统与流体力学国际会议（EPSFD 2025）将于本年度在美丽的杭州盛大召开。作为全球能源、电力系统以及流体力学领域的顶级盛会，EPSFD 2025旨在为来自世界各地的科学家、工程师和研究人员提供一个展示最新研究成果、分享实践经验及…...
智慧工地云平台源码，基于微服务架构+Java+Spring Cloud +UniApp +MySql
智慧工地管理云平台系统，智慧工地全套源码，java版智慧工地源码，支持PC端、大屏端、移动端。 智慧工地聚焦建筑行业的市场需求，提供“平台网络终端”的整体解决方案，提供劳务管理、视频管理、智能监测、绿色施工、安全管…...
云启出海，智联未来｜阿里云网络「企业出海」系列客户沙龙上海站圆满落地
借阿里云中企出海大会的东风，以**「云启出海，智联未来｜打造安全可靠的出海云网络引擎」为主题的阿里云企业出海客户沙龙云网络&安全专场于5.28日下午在上海顺利举办，现场吸引了来自携程、小红书、米哈游、哔哩哔哩、波克城市、…...
遍历 Map 类型集合的方法汇总
1 方法一 先用方法 keySet() 获取集合中的所有键。再通过 gey(key) 方法用对应键获取值 import java.util.HashMap; import java.util.Set;public class Test {public static void main(String[] args) {HashMap hashMap new HashMap();hashMap.put("语文",99);has…...
剑指offer20_链表中环的入口节点
链表中环的入口节点 给定一个链表，若其中包含环，则输出环的入口节点。 若其中不包含环，则输出null。 数据范围 节点 val 值取值范围 [ 1 , 1000 ] [1,1000] [1,1000]。 节点 val 值各不相同。 链表长度 [ 0 , 500 ] [0,500] [0,500]。 …...
cf2117E
原题链接：https://codeforces.com/contest/2117/problem/E 题目背景： 给定两个数组a,b，可以执行多次以下操作：选择 i (1 < i < n - 1)，并设置 或，也可以在执行上述操作前执行一次删除任意 和 。求…...
【论文笔记】若干矿井粉尘检测算法概述
总的来说，传统机器学习、传统机器学习与深度学习的结合、LSTM等算法所需要的数据集来源于矿井传感器测量的粉尘浓度，通过建立回归模型来预测未来矿井的粉尘浓度。传统机器学习算法性能易受数据中极端值的影响。YOLO等计算机视觉算法所需要的数据集来源于…...
论文浅尝 | 基于判别指令微调生成式大语言模型的知识图谱补全方法（ISWC2024）
笔记整理：刘治强，浙江大学硕士生，研究方向为知识图谱表示学习，大语言模型 论文链接：http://arxiv.org/abs/2407.16127 发表会议：ISWC 2024 1. 动机 传统的知识图谱补全（KGC）模型通过…...
NPOI Excel用OLE对象的形式插入文件附件以及插入图片
static void Main(string[] args) {XlsWithObjData();Console.WriteLine("输出完成"); }static void XlsWithObjData() {// 创建工作簿和单元格,只有HSSFWorkbook,XSSFWorkbook不可以HSSFWorkbook workbook new HSSFWorkbook();HSSFSheet sheet (HSSFSheet)workboo…...