大模型本地部署系列（1） Ollama的安装与配置

一. Ollama简介

Ollama 是一个 本地化的大模型运行工具，可以让你在自己的电脑（比如Mac、Windows、Linux）上直接下载和运行各种开源的大型语言模型（比如 LLaMA 3、Mistral、Gemma 等），而无需依赖互联网或云服务。

二. Ollama安装

首先我们到 Ollama官网 去下载安装包：

https://ollama.com/download/windows​ollama.com/download/windows

如果你下载很慢， 我也提供了免费的百度盘链接地址：

Ollama安装包-windows​www.githubs.xyz/y373.html

此处我们下载的是Windows版本的安装包，如下图所示：

下载完成后，我们先不要双击安装OllamaSetup.exe ， 如果你此时直接双击就会默认安装到C盘！

如果你的C盘足够大，也没关系。

安装到指定位置

以管理员身份运行CMD，并定位到OllamaSetup.exe所在的目录，然后执行如下命令：

OllamaSetup.exe /DIR="D:\ollama"

上述命令中DIR的值为D:\ollama，该值就是安装的目录位置。

执行上述命令后，会弹出OllamaSetup.exe安装窗体界面，此时我们点击Install按钮等待安装完成即可

安装完成后，Ollama默认为打开状态，此时我们先退出Ollama（鼠标右键点击任务栏的Ollama图标然后选择退出即可）。

三. Ollama的环境变量配置

进入到ollama的安装位置，我这里安装到了默认的C盘位置：

打开环境变量 ， 在Path变量下新建一个：C:\Users\hadluo\AppData\Local\Programs\Ollama

验证环境变量， 打开cmd， 输入： ollama -v

四. 修改Ollama下载的大模型存储位置

我们打开环境变量，然后在用户变量中新建变量名为OLLAMA_MODELS，变量值为D:\soft_data\ollama-download-model，其中的变量值就是大模型下载存储的目录位置，最后点击确定即可，如下图所示：

到此我们的ollama环境就搭建完成。后续会讲解各大开源模型的部署。