huggingface+下载deepseek8b lamda+本地部署 笔记
步骤倒过来
1.python hf_download.py --model unsloth/DeepSeek-R1-Distill-Llama-8B-GGUF
model后加模型名（HF-Mirror中查）
【huggingface模型下载不下来？这里教你万能解决办法~huggingface小白使用指南。】 https://www.bilibili.com/video/BV1zF4ae7EtK/?share_source=copy_web&vd_source=5e2f141001d4782cde7030f6a4e889a7
0.部署
2.python hf_download.py
3.云盘: https://pan.baidu.com/s/1s_d1D3LxZHx3Bs-sHB6nmg?pwd=5n48 提取码: 5n48
注：1.未成功，报错信息为已打开（总是截止在30%
2.cmd下载东西的弊端是难从断点继续下载
3.其实直接从hf-mirror下载应该也没问题，不必多此一举
（成功的方式）
lm studio更简单的下大模型方式：
【deepseek本地部署 以及LM Studio无法下载模型问题解决】 https://www.bilibili.com/video/BV1kTfQYKECH/?share_source=copy_web&vd_source=5e2f141001d4782cde7030f6a4e889a7
配置大模型（GPU占比+其他设置）：
【DeepSeek R1 推理模型 一键包 完全本地部署 保姆级教程 断网运行 无惧隐私威胁 大语言模型推理时调参 CPU GPU 混合推理 32B 轻松本地部署】 https://www.bilibili.com/video/BV1atfQYQE9P/?share_source=copy_web&vd_source=5e2f141001d4782cde7030f6a4e889a7
相关文章：
huggingface+下载deepseek8b lamda+本地部署 笔记
步骤倒过来 1.python hf_download.py --model unsloth/DeepSeek-R1-Distill-Llama-8B-GGUF model后加模型名（HF-Mirror中查） 【huggingface模型下载不下来？这里教你万能解决办法~huggingface小白使用指南。】 https://www.bilibili.com/video…...
中上211硕对嵌入式AI感兴趣，如何有效规划学习路径？
今天给大家分享的是一位粉丝的提问，中上211硕对嵌入式AI感兴趣，如何有效规划学习路径？ 接下来把粉丝的具体提问和我的回复分享给大家，希望也能给一些类似情况的小伙伴一些启发和帮助。 同学提问： 中上211，…...
Jedis 客户端 用于java连接redis服务
<dependency><groupId>redis.clients</groupId><artifactId>jedis</artifactId...
车载诊断数据库 --- 通用性诊断数据库ODX
我是穿拖鞋的汉子，魔都中坚持长期主义的汽车电子工程师。 老规矩，分享一段喜欢的文字，避免自己成为高知识低文化的工程师： 简单，单纯，喜欢独处，独来独往，不易合同频过着接地气的生活，除了生存温饱问题之外，没有什么过多的欲望，表面看起来很高冷，内心热情，如果你身…...
)
docker 基础命令使用(ubuntu)
docker 状态查询 docker ps docker ps -adocker --version docker info docker --help docker run --help docker ps --help ...docker 操作镜像命令 docker imagesdocker rmi 镜像id/镜像名docker 操作容器命令 docker ps docker ps -adocker run 命令 # 端口映射 -p 参数…...
IDEA集成DeepSeek
引言 随着数据量的爆炸式增长，传统搜索技术已无法满足用户对精准、高效搜索的需求。 DeepSeek作为新一代智能搜索技术，凭借其强大的语义理解与深度学习能力，正在改变搜索领域的游戏规则。 对于 Java 开发者而言，将 DeepSeek 集成…...
Unity 接入Luabn记录图解
Luban 文档及链接项目目录UnityEditor 导表工具 文档及链接 官方文档 最新版本 项目目录 接入的方法有很多，我这里随便找了一种 https://gitee.com/focus-creative-games/luban_examples.git如上图，git拉去后，只保留圈起来的2个文件夹。…...
【MySQL】我在广州学Mysql 系列——Mysql 日志管理详解
ℹ️大家好，我是练小杰，今天又是新的一周了，又该摆好心态迎接美好的明天了！！！😆 本文主要对Mysql数据库中的日志种类以及基本命令进行讨论！！ 回顾：Ǵ…...
【线段树 二分查找】P3939 数颜色|普及+
本文涉及知识点 C线段树 C二分查找 P3939 数颜色 题目背景 大样例可在页面底部「附件」中下载。 题目描述 小 C 的兔子不是雪白的，而是五彩缤纷的。每只兔子都有一种颜色，不同的兔子可能有 相同的颜色。小 C 把她标号从 1 到 n n n 的 n n n 只兔…...
2011年下半年软件设计师考试上午题真题的详细知识点分类整理（附真题及答案解析）
以下是针对2011年下半年软件设计师考试上午题真题的详细知识点分类整理，涵盖所有题目涉及的核心知识点，供考生背诵记忆： 1. 数据结构与算法 树与图： 树的性质：树的节点数、深度、叶子节点数之间的关系。二叉树遍历&am…...
tmagic-editor，腾讯开源的基于 Vue3 的页面可视化编辑器
hi, 大家好, 我是徐小夕. 之前一直在社区分享零代码&低代码的技术实践，也陆陆续续设计并开发了多款可视化搭建产品，比如： H5-Dooring（页面可视化搭建平台）V6.Dooring（可视化大屏搭建平台）F…...
K8s学习总结
文章目录 介绍Kubernetes 核心组件k8s安装环境安装组件 常用命令测试1. 创建一个测试应用程序2. 检查 Pod 是否运行 3. 暴露应用让外部访问4. 查看服务的暴露端口5. 访问 nginx 服务6. 验证节点调度 如有错误，敬请指针，谢谢! 介绍 Kubernetes࿰…...
正则表达式（Regular expresssion）
正则表达式 匹配单次 . ：匹配任意一个字符 [ ] ：匹配[ ]里举例的任意一个字符 /d ：匹配数字0-9 /D ：匹配非数字 /s ：匹配空白或tab建 /S ：匹配非空白 /w ：…...
Python的那些事第二十一篇：Python Web开发的“秘密武器”Flask
基于 Flask 框架的 Python Web 开发研究 摘要 在 Web 开发的江湖里，Python 是一位武林高手，而 Flask 则是它手中那把小巧却锋利的匕首。本文以 Flask 框架为核心，深入探讨了它在 Python Web 开发中的应用。通过幽默风趣的笔触，结合实例和表格，分析了 Flask 的特性、优势以…...
MySQL的聚簇索引与非聚簇索引
前言 首先我们要了解到，聚簇索引只能有一个，而非聚簇可以有多个。在本文中可以了解到，范围查询时聚簇索引的优势，以及非聚簇索引在频繁更新时的劣势。 在MySQL中，主键索引通常就是聚簇索引，如果没有显式…...
vscode的一些实用操作
1. 焦点切换(比如主要用到使用快捷键在编辑区和终端区进行切换操作) 2. 跳转行号 使用ctrl g,然后输入指定的文件内容，即可跳转到相应位置。 使用ctrl p,然后输入指定的行号，回车即可跳转到相应行号位置。...
C++11 thread
文章目录 C11 线程库线程对象的构造方式无参的构造函数调用带参的构造函数调用移动构造函数thread常用成员函数 this_thread命名空间join && detachmutex C11 线程库 线程对象的构造方式 无参的构造函数 1、调用无参的构造函数,调用无参的构造函数创建出来的线程对象…...
rabbitmq五种模式的总结——附java-se实现（详细）
rabbitmq五种模式的总结 完整项目地址：https://github.com/9lucifer/rabbitmq4j-learning 一、简单模式 （一）简单模式概述 RabbitMQ 的简单模式是最基础的消息队列模式，包含以下两个角色： 生产者：负责发…...
Qt中基于开源库QRencode生成二维码(附工程源码链接)
目录 1.QRencode简介 2.编译qrencode 3.在Qt中直接使用QRencode源码 3.1.添加源码 3.2.用字符串生成二维码 3.3.用二进制数据生成二维码 3.4.界面设计 3.5.效果展示 4.注意事项 5.源码下载 1.QRencode简介 QRencode是一个开源的库，专门用于生成二维码&…...
Java数据结构---链表
目录 一、链表的概念和结构 1、概念 2、结构 二、链表的分类 三、链表的实现 1、创建节点类 2、定义表头 3、创建链表 4、打印链表 5、链表长度 6、看链表中是否包含key 7、在index位置插入val（0下标为第一个位置） 8、删除第一个关键字key …...
css实现圆环展示百分比，根据值动态展示所占比例
代码如下 <view class""><view class"circle-chart"><view v-if"!!num" class"pie-item" :style"{background: conic-gradient(var(--one-color) 0%,#E9E6F1 ${num}%),}"></view><view v-else …...
UE5 学习系列（三）创建和移动物体
这篇博客是该系列的第三篇，是在之前两篇博客的基础上展开，主要介绍如何在操作界面中创建和拖动物体，这篇博客跟随的视频链接如下： B 站视频：s03-创建和移动物体 如果你不打算开之前的博客并且对UE5 比较熟的话按照以…...
uniapp微信小程序视频实时流+pc端预览方案
方案类型技术实现是否免费优点缺点适用场景延迟范围开发复杂度WebSocket图片帧定时拍照Base64传输✅ 完全免费无需服务器 纯前端实现高延迟高流量 帧率极低个人demo测试 超低频监控500ms-2s⭐⭐RTMP推流TRTC/即构SDK推流❌ 付费方案 （部分有免费额度&#x…...
2023赣州旅游投资集团
单选题 1.“不登高山，不知天之高也；不临深溪，不知地之厚也。”这句话说明_____。 A、人的意识具有创造性 B、人的认识是独立于实践之外的 C、实践在认识过程中具有决定作用 D、人的一切知识都是从直接经验中获得的 参考答案: C 本题解…...
Pinocchio 库详解及其在足式机器人上的应用
Pinocchio 库详解及其在足式机器人上的应用 Pinocchio (Pinocchio is not only a nose) 是一个开源的 C 库，专门用于快速计算机器人模型的正向运动学、逆向运动学、雅可比矩阵、动力学和动力学导数。它主要关注效率和准确性，并提供了一个通用的框架&…...
短视频矩阵系统文案创作功能开发实践，定制化开发
在短视频行业迅猛发展的当下，企业和个人创作者为了扩大影响力、提升传播效果，纷纷采用短视频矩阵运营策略，同时管理多个平台、多个账号的内容发布。然而，频繁的文案创作需求让运营者疲于应对，如何高效产出高质量文案成…...
如何更改默认 Crontab 编辑器 ？
在 Linux 领域中，crontab 是您可能经常遇到的一个术语。这个实用程序在类 unix 操作系统上可用，用于调度在预定义时间和间隔自动执行的任务。这对管理员和高级用户非常有益，允许他们自动执行各种系统任务。 编辑 Crontab 文件通常使用文本编…...
计算机基础知识解析：从应用到架构的全面拆解
目录 前言 1、 计算机的应用领域：无处不在的数字助手 2、 计算机的进化史：从算盘到量子计算 3、计算机的分类：不止 “台式机和笔记本” 4、计算机的组件：硬件与软件的协同 4.1 硬件：五大核心部件 4.2 软件&#…...
人工智能--安全大模型训练计划：基于Fine-tuning + LLM Agent
安全大模型训练计划：基于Fine-tuning LLM Agent 1. 构建高质量安全数据集 目标：为安全大模型创建高质量、去偏、符合伦理的训练数据集，涵盖安全相关任务（如有害内容检测、隐私保护、道德推理等）。 1.1 数据收集 描…...
通过 Ansible 在 Windows 2022 上安装 IIS Web 服务器
拓扑结构 这是一个用于通过 Ansible 部署 IIS Web 服务器的实验室拓扑。 前提条件： 在被管理的节点上安装WinRm 准备一张自签名的证书 开放防火墙入站tcp 5985 5986端口 准备自签名证书 PS C:\Users\azureuser> $cert New-SelfSignedCertificate -DnsName &…...