【deepseek】ollama chatbox webui 本地部署deepseek 踩坑记录

部署

1、前往Ollama官网下载跨平台工具
官网直达：https://ollama.com/download

2、挑选适合自己设备的模型版本，获取运行指令
访问模型库：https://ollama.com/library/deepseek-r1

▌配置建议：
• 入门级：1.5B版本（4GB内存+核显可运行）
• 进阶推荐：7B版本（8GB内存+4GB显存）
• 高性能设备：32B版本（32GB内存+12GB显存）

3. 一键部署模型（以32B为例）
   打开终端/CMD输入：ollama run deepseek-r1:32b

4. 下载开源客户端Chatbox
   官网：https://chatboxai.app/zh
   支持中文界面与Markdown渲染，还有各种强大的功能，体验超过ChatGPT

5. 关键配置指引
   ① API类型：选择"OpenAI API兼容"
   ② 接口地址：http://localhost:11434/v1
   ③ 模型名称：与之前下载的版本严格一致
   

6、或者使用 webui页面：

pip install open-webui

open-webui serve

https://github.com/open-webui/open-webui

连通测试

curl http://localhost:11434/api/chat -d '{"model": "deepseek-r1:32b","messages": [{ "role": "user", "content": "why is the sky blue?" }]
}'

性能测试

4090 显卡，32B模型，输出速度： 31 token/s
预估电费成本：
30token/s*3600s/0.5 kwh/0.5 元 = 43w token/元
deepseek-r1-32B，电费成本：百万token ~2.3元

faq

修改 ollama 环境变量，解决网络联通问题

1、如果Ollama作为SystemD服务运行，则应使用systemctl设置环境变量
systemctl edit ollama.service
添加如下环境变量

[Service]
Environment="OLLAMA_HOST=0.0.0.0"

2、重新加载 systemd

systemctl daemon-reload
3、重新启动 ollama
systemctl restart ollama
参考文档：
https://github.com/ollama/ollama/blob/main/docs/faq.md