DeepSeek 本地部署

一、引言

近期，国产大模型 DeepSeek 凭借其强大的性能和广泛的应用场景，迅速成为 AI 领域的焦点。
然而，随着用户数量的激增，DeepSeek 的在线服务时常面临访问压力，导致响应延迟甚至服务中断的情况。

幸运的是，DeepSeek 作为一款开源模型，为用户提供了本地部署的解决方案。
通过将 DeepSeek 部署到本地终端，用户不仅可以摆脱网络依赖，还能随时随地享受流畅的 AI 体验。
本地部署后，DeepSeek 无需联网即可直接运行，彻底解决了在线服务的延迟和宕机问题。
而且安全更适合一些工作人员。

二、为什么选择本地部署 DeepSeek？

稳定高效：无需担心网络波动或服务器压力，本地部署确保模型始终高效运行。
隐私安全：数据完全存储在本地，避免敏感信息外泄，保障用户隐私。
灵活便捷：支持离线使用，随时随地调用模型，满足多样化需求。
开源自由：DeepSeek 的开源特性让用户可以根据需求自定义优化，打造专属 AI 工具。

当然缺点也是有的：模型越小的，就越笨😂

三、具体步骤

1.下载Ollama并安装（Ollama 提供 API 支持）

Ollama是一个功能强大且易于使用的开源框架，专为在本地机器上部署和运行大型语言模型而设计。它为用户提供了便捷、灵活和安全的模型部署和运行环境。

从Ollama官方网站下载Ollama：

• 官网地址 https://ollama.com/
• windows 0.5.7下载地址 https://github.com/ollama/ollama/releases/download/v0.5.7/OllamaSetup.exe

进入Ollama官方网站后，可以看到Ollama已经支持DeepSeek-R1的部署：

点击DeepSeek-R1的链接可以看到有关deepseek-r1的详细介绍：

目前deepseek-r1模型大小提供了7个选择：1.5b、7b、8b、14b、32b、70b、671b。
选择适合自己的版本，注意右侧的GB代表磁盘容量，确保C盘有足够的磁盘容量。

以下是一个精简且重点突出的表格，展示了DeepSeek-R1模型大小与所需Windows电脑配置的对应关系：

模型大小	GPU建议	CPU建议	内存建议	硬盘建议
1.5b	GTX 1660/RTX 3060 (8-12GB)	i5/Ryzen 5	8-16GB	50GB+ SSD
7b	RTX 3060 Ti/3070 (10-12GB)	i5-10400F/Ryzen 5 3600	16GB+	100GB+ SSD
8b	RTX 3080/3080 Ti (10-12GB)	i7/Ryzen 7	32GB	200GB+ SSD
14b	RTX 3090/A100 (24GB+)	Xeon/EPYC 或 i9/Ryzen 9	64GB	500GB+ SSD
32b	A100/H100 (40GB+)	多路Xeon/EPYC	128GB+	1TB+ SSD/NVMe
70b	多张A100/H100	更强性能的多路CPU	256GB+	2TB+ SSD/NVMe
671b	大规模GPU集群	高性能服务器级CPU	1TB+ ECC内存	大规模存储阵列

你可以根据你的硬件情况选择，通常模型大小（参数量）越大，模型的理解和生成能力越强，但也会消耗更多的计算资源。

点击Download按钮下载符合自己平台的Ollama：

进行安装,双击 “OllamaSetup.exe”
注意：安装时默认使用C盘，确保你的C盘有足够多的空间可以安装 ollama 及后续的大模型，建议C盘空间 ≥ 12 G

若想改存储位置，有以下方式

1. 通过cmd或powershell执行

OllamaSetup.exe /DIR="d:\some\location"

2. 由于Ollama的模型默认会在C盘用户文件夹下的.ollama/models文件夹中，
   可以配置 环境变量->系统变量-> OLLAMA_MODELS，设置为指定的路径：
   >
   注意，更改以后必须重启，否则配置以后不会生效。
   并且注意，重启以后，一定要以管理员的权限运行cmd.exe，否则会提示莫名的失败消息。

安装后在电脑开始页面启动 ollama，然后查看任务栏，有 ollama 图标意味着 ollama已经启动。

安装完成后，命令行里执行命令,也可确认安装成功

ollama -v

我这边是 0.5.7 版本的

2. 部署 deepseek-r1

我这边测试就选择了这里只能选择最小的1.5b模型来做演示：
使用下面命令进行安装，1.5b代表选择1.5b的版本

ollama run deepseek-r1:1.5b

出现下面情况代表安装完成，当然可能会出现超时问题
例如：

Error: pull model manifest: 500: {"errors":[{"code":"INTERNAL_ERROR","message":"internal error"}]}

只能重新多次尝试，再次运行上面的部署命令。

最终成功以后就是以下的页面

2.下载Chatbox并配置为本地DeepSeek （Chatbox 提供 UI 界面）

Chatbox官方网站：

• https://chatboxai.app/zh

安装以后，运行该程序后选择“本地模型”


这一块，我们应该选择OLLAMA API（不要选成DeepSeek API），然后就可以看到我们上一步安装好的deepseek-r1:1.5b。

配置好DeepSeek本地模型之后，就可以实现在断网情况下自由问答了。

参考文章
【1】手把手教你部署 DeepSeek 本地模型
【2】DeepSeek本地搭建部署详细图文教程
【3】deekseek-r1本地部署指南极简版