Ollama+AnythingLLM安装

一、文件准备

‌

1. 安装包获取‌

从联网设备下载：
AnythingLLMDesktopInstaller.exe（官网离线安装包）‌
deepseek-r1-1.5b.gguf（1.5B 参数模型文件）‌

2. ‌传输介质‌

使用 U 盘或移动硬盘拷贝以下文件至离线设备：

\Offline_Install\  
├── AnythingLLMDesktopInstaller.exe  
└── Models\  ├── deepseek-r1-1.5b.gguf  └── Modelfile.txt  

二、核心安装流程

‌

1. 主程序安装‌

双击运行 AnythingLLMDesktopInstaller.exe
修改默认安装路径（可选）：

D:\AI_Tools\AnythingLLM  

（路径建议使用纯英文，避免识别异常）‌

2. 模型注册‌

将模型文件复制至指定目录：

C:\Users\[用户名]\.ollama\models\

执行模型加载命令：

ollama create deepseek-r1:1.5b -f Modelfile.txt

（需提前完成 Ollama 离线部署）‌

三、配置关联

1. 点击设置的扳手图标

2. 打开了设置，需要配置LLM首选项、向量数据库、Embedder首选项

3. LLM首选项配置
LLM提供商选择Ollama；
Ollama Model选择自己安装的Deepseek模型

4. 向量数据库，保持LanceDB不变。

5. Embedder首选项
   嵌入引擎提供商选择Ollama；
   Ollama Embedding Model 选择自己安装的deepseek模型