Ubuntu22.04部署deepseek大模型

Ollama 官方版

Ollama 官方版: https://ollama.com/
若你的显卡是在Linux上面 可以使用如下命令安装

curl -fsSL https://ollama.com/install.sh | sh

ollama命令查看

root@heyu-virtual-machine:~# ollama -h
Large language model runnerUsage:ollama [flags]ollama [command]Available Commands:serve       Start ollamacreate      Create a model from a Modelfileshow        Show information for a modelrun         Run a modelstop        Stop a running modelpull        Pull a model from a registrypush        Push a model to a registrylist        List modelsps          List running modelscp          Copy a modelrm          Remove a modelhelp        Help about any commandFlags:-h, --help      help for ollama-v, --version   Show version informationUse "ollama [command] --help" for more information about a command.
root@heyu-virtual-machine:~#

拉取deepseek模型

查看

ollama list

当然Ollama不只是可以启动deepseek模型，也可以启动其他的模型
详情链接：https://ollama.com/search

# 模型的安装命令# 1.5B Qwen DeepSeek R1  
# 所需空间大约 1.1G
ollama run deepseek-r1:1.5b# 7B Qwen DeepSeek R1
# 所需空间大约 4.7G
ollama run deepseek-r1:7b# 8B Llama DeepSeek R1
# 所需空间大约 4.9G
ollama run deepseek-r1:8b# 14B Qwen DeepSeek R1
# 所需空间大约 9G
ollama run deepseek-r1:14b# 32B Qwen DeepSeek R1
# 所需空间大约 20G
ollama run deepseek-r1:32b# 70B Llama DeepSeek R1
# 所需空间大约 43G
ollama run deepseek-r1:70b# 671B Llama DeepSeek R1
# 所需空间大约 404G
ollama run deepseek-r1:671b

我的个人电脑性能一般，就只能先使用7b的模型了

ollama run deepseek-r1:7b

使用大模型

可以在命令行中输入提问的信息

cpu负载信息

以上是在Ubuntu虚拟机中用CPU跑的性能视图，CPU基本上占用很高。如果有高端的GPU显卡，可以运行的更好。

以下是参考配置：

命令行窗口启用模型

可能由于工作或者是下班了，我们不小心关闭命令行窗口后，还想打开命令提示符窗口，只需要再次在命令符提示窗口中输入上面复制的指令即可

ollama run deepseek-r1:7b

FQA

拉取模型时报错 500

pulling manifest
Error: pull model manifest: 500: {“errors”:[{“code”:“INTERNAL_ERROR”,“message”:“internal error”}]}

这个错误表明在拉取模型清单（manifest）时，服务器返回了 500 内部错误。这通常是由服务器端的问题引起的，但你可以尝试以下步骤来排查和解决问题：
检查网络连接
● 确保你的网络连接正常，尤其是访问目标服务器时没有防火墙或代理的限制。
● 如果你使用了代理，请确保代理配置正确。

可以检查一下网络，稍后再执行命令下载。