当前位置： 首页 > news >正文

AutoModelForCausalLM.from_pretrained 函数调用本地权重报错

news 2025/9/16 5:16:10

文章目录

  • 1、代码报错的位置（前情提要）
    • finetune_lora.sh
    • fintune_clm_lora.py
  • 2、报错截图
    • 2.1、huggingfaces上的 meta-llama/Llama-2-7b-chat-hf
    • 2.2、服务器上模型文件路径
  • 3、特别注意事项

1、代码报错的位置（前情提要）

在终端直接运行finetune_lora.sh文件，–model_name_or_path该参数是指定加载的模型权重，可以是huggingface上的model_name，也可以使本地保存模型权重的路径。

使用默认的模型参数配置是（meta-llama/Llama-2-7b-chat-hf），该情况下模型权重会直接去huggingface官网上去下载。

finetune_lora.sh

在这里插入图片描述

fintune_clm_lora.py

–model_name_or_path 参数会在这里作为 AutoModelForCausalLM.from_pretrained 函数的参数

在这里插入图片描述

2、报错截图

服务器无法直接访问huggingface网站，因此只能采用指定本地模型路径的方法。（需要先申请并下载模型权重）

在这里插入图片描述

2.1、huggingfaces上的 meta-llama/Llama-2-7b-chat-hf

这个是需要去meta website申请之后，再在huggingface的meta_llama项目下再提交一次信息才可以查看和下载这些信息

权重文件有【.safetensor】 【.bin】两种，默认是加载.safetensor权重文件

在这里插入图片描述

2.2、服务器上模型文件路径

两种权重其实都可以使用，大小都一致，要想只使用.bin权重文件，需要删除.safetensor文件和对应的.safetensor.index.json文件才可以。

在这里插入图片描述

3、特别注意事项

若只想使用.bin权重文件，但是.bin.index.json文件有残留，运行就会报错找不到.safetensor权重文件。

可以侧面看出AutoModelForCausalLM.from_pretrained 函数是根据json文件进行读取对应的权重文件（同门李伟发现！）

在这里插入图片描述

相关文章：

AutoModelForCausalLM.from_pretrained 函数调用本地权重报错

文章目录 1、代码报错的位置（前情提要）finetune_lora.shfintune_clm_lora.py 2、报错截图2.1、huggingfaces上的 meta-llama/Llama-2-7b-chat-hf2.2、服务器上模型文件路径 3、特别注意事项 1、代码报错的位置（前情提要） 在终端直…...

编程日记 2024/5/15 2:49:24

【qt】动态属性

这里写目录标题 一.属性1.属性的好处2.添加属性3.使用属性 二.只读属性 一.属性 1.属性的好处 说到属性（property），你们会想到什么？我会联想到特点，就是一类对象所特有的，在C中，成员数据就是这…...

编程日记 2024/5/15 2:47:22

Git知识点总结

目录 1、版本控制 1.1什么是版本控制 1.2常见的版本控制工具 1.3版本控制分类 2、集中版本控制 SVN 3、分布式版本控制 Git 2、Git与SVN的主要区别 3、软件下载 安装：无脑下一步即可！安装完毕就可以使用了！ 4、启动Git 4.1常用的Li…...

编程日记 2024/5/15 2:46:21

【数据库】数据库指令

一。数据库打开 1.命令行 2.进入mysql mysql -uroot -p密码 3.退出 exit； 二。针对数据库的操作 1.创建数据库（有分号） create database student; 2.使用数据库 use student 3.删除数据库（有分号） drop database…...

编程日记 2024/5/15 2:45:19

设计模式——状态模式（State）

状态模式（State Pattern）是一种行为设计模式，它允许一个对象在其内部状态改变时改变它的行为。对象看起来似乎修改了它的类。状态模式通过把对象的每一个状态都封装到一个单独的类中，并将请求委托给当前状态对象来让状态的变化与行…...

编程日记 2024/5/15 2:44:18

理解打包好的vue项目结构dist包

目录 linux查询dist目录整体解释子目录文件解释CSSFONTSJS linux查询dist目录 roothcss-ecs-7881:/www/java_project/dist# ls -l total 3004 drwxr-xr-x 2 root root 4096 Dec 31 10:15 css -rw-r--r-- 1 root root 4286 Dec 31 10:15 favicon.ico drwxr-xr-x 2 root r…...

编程日记 2024/5/15 2:43:17

24深圳杯C题18页高质量论文＋可执行代码＋图表

比赛题目的完整版思路可执行代码数据参考论文都会在第一时间更新上传的，大家可以参考我往期的资料，所有的资料数据以及到最后更新的参考论文都是一次付费后续免费的。注意：（建议先下单占坑，因为随着后续我们更新资料数…...

编程日记 2024/5/15 2:41:14

Midjourney Imagine API 申请及使用

Midjourney Imagine API 申请及使用 申请流程 要使用 Midjourney Imagine API，首先可以到 Midjourney Imagine API 页面点击「Acquire」按钮，获取请求所需要的凭证： 如果你尚未登录或注册，会自动跳转到登录页面邀请您来注册和登…...

编程日记 2024/5/15 2:39:12

电子邮箱是什么？怎么申请一个电子邮箱？

电子邮箱是我们沟通的工具，细分为免费版电子邮箱和付费版电子邮箱。怎么申请一个属于自己的电子邮箱？今天小编就分享一下电子邮箱注册教程，手把手教您注册一个电子邮箱。 一、电子邮箱的定义 电子邮箱，简称邮箱，是一…...

编程日记 2024/5/15 2:36:09

C++ 并发编程指南（11）原子操作 | 11.4、通过内存序实现顺序模型

文章目录 一、通过内存序实现顺序模型1、Relaxed Ordering2、Sequencial Consistent Ordering3、Acquire Release Ordering 前言 前文介绍了六种内存顺序，以及三种内存模型，本文通过代码示例讲解六种内存顺序使用方法，并实现相应的内存模型。…...

编程日记 2024/5/15 2:35:08

【数据结构】栈和队列专题

前言 上篇博客我们讨论了栈和队列的有关结构，本篇博客我们继续来讨论有关栈和队列习题 这些题算是经典了 💓 个人主页：小张同学zkf ⏩ 文章专栏：数据结构 若有问题 评论区见📝 🎉欢迎大家点赞&#x1f44d…...

编程日记 2024/5/15 2:34:07

2024年程序员最应该关注的几件事？

对于程序员而言，技术和行业趋势的演变是持续关注的焦点。以下是几件2024年程序员应该关注的事情： 持续学习新技术：技术领域的快速变化要求程序员不断更新自己的技能集，包括编程语言、框架、工具和最佳实践。 人工智能与机器学习&…...

编程日记 2024/5/15 2:33:06

【初阶数据结构】单链表基础OJ题讲解

前言 📚作者简介：爱编程的小马，正在学习C/C，Linux及MySQL。 📚本文收录与初阶数据结构系列，本专栏主要是针对时间、空间复杂度，顺序表和链表、栈和队列、二叉树以及各类排序算法，持…...

编程日记 2024/5/15 2:32:05

基于Java的俄罗斯方块游戏的设计与实现

关于俄罗斯方块项目源码.zip资源-CSDN文库https://download.csdn.net/download/JW_559/89300281 基于Java的俄罗斯方块游戏的设计与实现 摘 要 俄罗斯方块是一款风靡全球，从一开始到现在都一直经久不衰的电脑、手机、掌上游戏机产品，是一款游戏规则简单…...

编程日记 2024/5/15 2:30:02

Hadoop 3.4.0+HBase2.5.8+ZooKeeper3.8.4+Hive+Sqoop 分布式高可用集群部署安装 大数据系列二

创建服务器,参考 虚拟机创建服务器 节点名字节点IP系统版本master11192.168.50.11centos 8.5slave12192.168.50.12centos 8.5slave13192.168.50.13centos 8.5 1 下载组件 Hadoop:官网地址 Hbase:官网地址 ZooKeeper:官网下载 Hive:官网下载 Sqoop:官网下载 为方便同学…...

编程日记 2024/5/15 2:29:00

umi搭建react项目

UMI 是一个基于 React 的可扩展企业级前端应用框架，提供路由、状态管理、构建和部署等功能，可以帮助开发者快速构建复杂的单页面应用（SPA）和多页面应用（MPA）。它与 React 的关系是，UMI 构建在 R…...

编程日记 2024/5/15 2:27:59

mybatis-plus之数据源切换事务失效问题

为什么存在数据源切换和食物时效问题？ 由于业务数据来源不同 需要配置多个数据源来进行数据的查询 编辑等操作 这一切换业务对数据的一致性要求很高那就要保证ACID啦 也就是数据的有效性 要么是成功的 要么是失败的。 数据源切换采用mybatisplus支持 多数据源配置&a…...

编程日记 2024/5/15 2:26:58

vue 百度地图点击marker修改marker图片，其他marker图片不变。

解决思路，就是直接替换对应marker的图片。获取marker对象判断点击的marker替换成新图片，上一个被点击的就替换成老图片。 marker.name tag;marker.id i; //一定要设置id，我这里是设置的循环key值，要唯一性。map.addOverlay(mark…...

编程日记 2024/5/15 2:25:54

【Javaer学习Python】 1、Django安装

安装 Python 和 PyCharm 的方法就略过了，附一个有效激活PyCharm的链接：https://www.quanxiaoha.com/pycharm-pojie/pycharm-pojie-20241.html 1、安装Django # 安装Django pip install Django# 查看当前版本 python -m django --version 5.0.62、创建项…...

编程日记 2024/5/15 2:23:51

SSL协议

SSL 安全传输协议（安全套接层） 也叫TLS ---- 传输层安全协议 SSL的工作原理：SSL协议因为是基于TCP协议工作的，通信双方需要先建立TCP会话。因为SSL协议需要进行安全保证，需要协商安全参数，所以也需要建立…...

编程日记 2024/5/15 2:22:49

深入剖析AI大模型：大模型时代的 Prompt 工程全解析

今天聊的内容，我认为是AI开发里面非常重要的内容。它在AI开发里无处不在，当你对 AI 助手说 "用李白的风格写一首关于人工智能的诗"，或者让翻译模型 "将这段合同翻译成商务日语" 时，输入的这句话就是 Prompt。…...

编程新知 2025/9/15 5:15:46

ffmpeg（四）：滤镜命令

FFmpeg 的滤镜命令是用于音视频处理中的强大工具，可以完成剪裁、缩放、加水印、调色、合成、旋转、模糊、叠加字幕等复杂的操作。其核心语法格式一般如下： ffmpeg -i input.mp4 -vf "滤镜参数" output.mp4或者带音频滤镜： ffmpeg…...

编程新知 2025/7/23 10:55:13

spring：实例工厂方法获取bean

spring处理使用静态工厂方法获取bean实例，也可以通过实例工厂方法获取bean实例。 实例工厂方法步骤如下： 定义实例工厂类（Java代码），定义实例工厂（xml），定义调用实例工厂&#xff…...

编程新知 2025/8/27 18:01:27

【HTML-16】深入理解HTML中的块元素与行内元素

HTML元素根据其显示特性可以分为两大类：块元素(Block-level Elements)和行内元素(Inline Elements)。理解这两者的区别对于构建良好的网页布局至关重要。本文将全面解析这两种元素的特性、区别以及实际应用场景。 1. 块元素(Block-level Elements) 1.1 基本特性 …...

编程新知 2025/8/10 8:29:19

今日科技热点速览

🔥 今日科技热点速览 🎮 任天堂Switch 2 正式发售 任天堂新一代游戏主机 Switch 2 今日正式上线发售，主打更强图形性能与沉浸式体验，支持多模态交互，受到全球玩家热捧 。 🤖 人工智能持续突破 DeepSeek-R1&…...

编程新知 2025/9/13 8:59:33

大数据学习（132）-HIve数据分析

​​​​🍋🍋大数据学习🍋🍋 🔥系列专栏： 👑哲学语录: 用力所能及，改变世界。 💖如果觉得博主的文章还不错的话，请点赞👍收藏⭐️留言&#x1f4…...

编程新知 2025/7/26 19:10:34

Aspose.PDF 限制绕过方案：Java 字节码技术实战分享（仅供学习）

Aspose.PDF 限制绕过方案：Java 字节码技术实战分享（仅供学习） 一、Aspose.PDF 简介二、说明（⚠️仅供学习与研究使用）三、技术流程总览四、准备工作1. 下载 Jar 包2. Maven 项目依赖配置 五、字节码修改实现代码&#…...

编程新知 2025/9/2 18:18:51

【笔记】WSL 中 Rust 安装与测试完整记录

#工作记录 WSL 中 Rust 安装与测试完整记录 1. 运行环境 系统：Ubuntu 24.04 LTS (WSL2)架构：x86_64 (GNU/Linux)Rust 版本：rustc 1.87.0 (2025-05-09)Cargo 版本：cargo 1.87.0 (2025-05-06) 2. 安装 Rust 2.1 使用 Rust 官方安…...

编程新知 2025/9/7 15:02:04

【SSH疑难排查】轻松解决新版OpenSSH连接旧服务器的“no matching...“系列算法协商失败问题

【SSH疑难排查】轻松解决新版OpenSSH连接旧服务器的"no matching..."系列算法协商失败问题 摘要： 近期，在使用较新版本的OpenSSH客户端连接老旧SSH服务器时，会遇到 "no matching key exchange method found"​, "n…...

编程新知 2025/6/15 18:10:15

Python 训练营打卡 Day 47

注意力热力图可视化 在day 46代码的基础上，对比不同卷积层热力图可视化的结果 import torch import torch.nn as nn import torch.optim as optim from torchvision import datasets, transforms from torch.utils.data import DataLoader import matplotlib.pypl…...

编程新知 2025/9/1 8:36:19