玩转大模型——deepseek本地部署与ollama 非C盘安装之ChatBox配置

ollama安装

ollama是什么

Ollama 是一个专注于本地运行大型语言模型的工具。它允许用户在本地环境中部署和运行各种开源语言模型（如 LLaMA、GPT-J 等），而不需要依赖云服务。Ollama 的主要优势在于其本地化运行的能力，这使得用户可以在不依赖互联网连接的情况下使用强大的语言模型。

DeepSeek是什么

DeepSeek是由深度求索公司开发的人工智能模型，功能丰富，能聊天、写作、写代码、分析数据、翻译及教育辅导，理解能力强，学习速度快，多场景适用，未来潜力无限。

下载地址

下载地址：https://ollama.com/download/windows

非C盘安装

在CMD窗口输入

.\OllamaSetup.exe /DIR=F:\llm\OLLAMA

安装完成可以在系统右下角看到ollama

目录大小4.7G

验证是否安装成功

netstat -ano | findstr 11434

输入ollama -h可以查看其它命令

配置大模型目录

我们现在的模型目录，默认是在C盘，如果C盘空间不够大，需要把它转移到其它位置。

复制文件到新目录

新建一个环境变量

OLLAMA_MODELS ：F:\llm\OLLAMA_MODELS

删除原文件

rm -rf "C:\Users\MagicBook\.ollama"

一定要重启操作系统，确保环境变量生效！！！

大模型下载

安装deepseek-r1:1.5b

在ollama library页面可以看到ollama可以下载的模型。

在命令行窗口运行命令就可以自动下载并运行。

ollama run deepseek-r1:1.5b

数字后面的b是billion，十亿的意思。

所以 ，网络主播们说的deepseek-r1:671b是一个671亿参数的大模型是错误的，应该是6710亿。

deepseek-r1:1.5b：这是一个参数量为 15 亿（1.5 billion） 的模型
deepseek-r1:7b：这是一个参数量为 70 亿（7 billion） 的模型

大模型文件已经下载在指定盘符，但C盘依然有小部分文件生成，好在占用空间不大。


小模型效果似乎并不理想。

安装deepseek-r1:7b

ollama run deepseek-r1:7b

ChatBox安装

下载ChatBox

设置

模型提供方：OLLAMA API
API域名：http://127.0.0.1:11434
模型：deepseek-r1:7b
上下文的消息数量上限：10
严谨与想象(Temperature)：0.7

保存

参考资料

AMD 显卡 部署deep seek记录及踩坑（windows 10）
关于ollama非C盘安装以及模型非C盘存放方式
AMD ollama显卡调用方案
自定义Ollama安装路径