huggingface+下载deepseek8b lamda+本地部署 笔记

步骤倒过来

1.python hf_download.py --model unsloth/DeepSeek-R1-Distill-Llama-8B-GGUF

model后加模型名（HF-Mirror中查）

【huggingface模型下载不下来？这里教你万能解决办法~huggingface小白使用指南。】 https://www.bilibili.com/video/BV1zF4ae7EtK/?share_source=copy_web&vd_source=5e2f141001d4782cde7030f6a4e889a7

0.部署

2.python hf_download.py

3.云盘: https://pan.baidu.com/s/1s_d1D3LxZHx3Bs-sHB6nmg?pwd=5n48 提取码: 5n48

注：1.未成功，报错信息为已打开（总是截止在30%

2.cmd下载东西的弊端是难从断点继续下载

3.其实直接从hf-mirror下载应该也没问题，不必多此一举

（成功的方式）

lm studio更简单的下大模型方式：

【deepseek本地部署 以及LM Studio无法下载模型问题解决】 https://www.bilibili.com/video/BV1kTfQYKECH/?share_source=copy_web&vd_source=5e2f141001d4782cde7030f6a4e889a7 

配置大模型（GPU占比+其他设置）：

 【DeepSeek R1 推理模型 一键包 完全本地部署 保姆级教程 断网运行 无惧隐私威胁 大语言模型推理时调参 CPU GPU 混合推理 32B 轻松本地部署】 https://www.bilibili.com/video/BV1atfQYQE9P/?share_source=copy_web&vd_source=5e2f141001d4782cde7030f6a4e889a7