使用Ollama本地部署deepseek

1、下载安装Ollama

前往下载页面

https://ollama.com/download

下载好安装包，如同安装软件一样，直接安装即可
win中默认为C盘，如果需要修改到其他盘，查找具体教程
运行list命令，检查是否安装成功

2、修改模型下载的位置

各种不同的模型往往占据空间更大，因此选择一个空间足够的位置非常有必要
退出Ollama，打开任务管理器，清除当前Ollama程序

选择合适位置，创建模型存储的目标文件夹
添加文件夹到环境变量中
变量名固定为，文件夹根据自己情况定

OLLAMA_MODELS

3、拉取、运行模型命令

打开powershell运行如下命令即可

ollama run deepseek-r1:1.5b

在命令 ollama run deepseek-r1:1.5b 中，1.5b 的部分代表的是模型的大小，具体来说：

• “b” 是 billion（十亿）的缩写。这里的 1.5b 表示模型的参数量大约为 1.5 billion（15亿）个参数。
• 这种命名方式通常用于区分不同大小的模型。例如，1.5b 就是一个包含 15 亿个参数的模型。
  对于大规模深度学习模型来说，参数量的大小通常直接影响模型的性能和计算需求。不同大小的模型对应的 “b” 数字表示不同的参数量，这也反映出模型的容量和复杂度。

1、模型中的参数大小b越大更耗资源，

1. 1.5b：表示模型有 15 亿个参数，通常是一个较大但相对轻量级的模型。
2. 7b：表示模型有 70 亿个参数，参数越大，模型更强大、更复杂，性能更好，但计算成本和推理延迟也会增加。
3. 13b、30b 等：参数数量进一步增加，代表更大的模型，这些模型的推理和训练可能需要更强的计算能力和更长的时间，但在一些任务上可能会表现得更加精确和复杂。

总结：
不同大小的 b 表示模型参数的数量，1.5b 代表 15 亿个参数的模型。参数越多，模型的计算能力通常越强，但对硬件的需求和推理速度也会有更大的影响。

2、不同大小参数需要的大致硬件配置

https://blog.csdn.net/2401_85343303/article/details/145452011
参考这个博客

这里使用最基础的1.5b来示例，也可以让更多的小伙伴体验到本地模型

3、拉取模型并运行

ollama run deepseek-r1:1.5b

有可能拉取服务包失败，经过检索是Ollama 的服务器故障，非常新鲜的故障

拉取模型清单：500 ·问题 #8873 ·OLLAMA/OLLAMA
https://github.com/ollama/ollama/issues/8873

等待Ollama服务恢复尝试，可以轻松拉取
也是开箱即用对，耐心等待拉取

等待拉取完成，即可进行对话

4、退出模型

ctrl+d来退出，或者使用命令 /bye

/bye

4、前端UI版

适合Ollama使用的前端有很多，经过筛选选择了极简的NextJS Ollama LLM UI

NextJS Ollama LLM UI 是专为 Ollama 设计的极简主义界面，适合追求简约风的小伙伴

https://github.com/jakobhoeg/nextjs-ollama-llm-ui

访问项目地址可以看到具体的使用步骤，也是开箱即用（需要简单的前端经验）

1、安装nvm
2、安装 Node.js (18+)
3、按照项目中的提示操作即可

这里需要注意下修改example.env to .env .这个操作要保证Ollama的默认端口没有修改
然后就是前端固定的 install 、 run dev
启动前端ui，即可访问

http://localhost:3000/

选择具体模型，然后就可以使用了