[大语言模型]在个人电脑上部署ollama 并进行管理,最后配置AI程序开发助手.

ollama官网:

下载

https://ollama.com/

安装

查看可以使用的模型

https://ollama.com/search

例如

https://ollama.com/library/deepseek-r1/tags

# deepseek-r1:7bollama pull deepseek-r1:7b

改token数量为409622 = 16384

ollama命令说明

ollama serve #：启动 ollama 服务。
ollama create #：根据一个 Modelfile 创建一个模型。
ollama show #：显示某个模型的详细信息。
ollama run #：运行一个模型。
ollama stop #：停止一个正在运行的模型。
ollama pull #：从一个模型仓库（registry）拉取一个模型。
ollama push #：将一个模型推送到一个模型仓库。
ollama list #：列出所有模型。
ollama ps #：列出所有正在运行的模型。
ollama cp #：复制一个模型。
ollama rm #：删除一个模型。
ollama help #：获取关于任何命令的帮助信息。# 3、标志（Flags）ollama -h #, --help：显示 ollama 的帮助信息。
ollama -v #, --version：显示版本信息。

ollama webui

github 地址

https://github.com/ollama-webui/ollama-webui-lite

git 下载

git clone https://github.com/ollama-webui/ollama-webui-lite ollama-webuicd ollama-webuipnpm ipnpm approve-builds

LM Studio:
https://lmstudio.ai/
一个桌面管理工具.

anythinllm官网:
https://anythingllm.com/

暂且记录一个待办, 后续会更新使用方法

总结,经过测试,使用效果不如网络版本的相关模型, 比如deepseek coder,和copilot, 所以如果真的想用更好的,那么花点小钱,绝对是值得的, 本地部署,又花时间, 效果又不好, copilot免费的效果就很好了,deepseek的花点钱也不是很贵.