Window系统通过Docker本地安装ollama和deepseek

在 Windows 系统上安装 Ollama 和 DeepSeek 的步骤如下：

安装 Ollama

1. 安装 WSL（Windows Subsystem for Linux）：

   • 如果还没有安装 过WSL的（安装过的你直接跳过就行了），可以按照以下步骤进行安装：
     • 在 Windows 搜索中输入“PowerShell”，右键点击并选择“以管理员身份运行”。
     • 输入以下命令来启用 WSL：

       wsl --install
       

     • 重启计算机。

2. 安装 Docker Desktop：

   • 下载并安装 Docker Desktop for Windows。
   • 安装完成后，确保 Docker 正在运行，并且您已经启用了 WSL 集成。

3. 安装 Ollama：

   • 打开 WSL 终端（例如 Ubuntu），然后运行以下命令：

     curl -sSfL https://ollama.com/download | sh
     

4. 验证安装：

   • 输入以下命令来验证是否安装成功：

     ollama --version
     

5. 下载模型：

   • 使用 Ollama 下载所需的模型，例如：

     ollama pull <model-name>
     

   • 替换 <model-name> 为您要下载的具体模型名称。

安装 DeepSeek

1. 安装 Python：

   • 确保您已经安装了 Python。可以从 Python 官网 下载并安装最新版本。
   • 在安装过程中，请确保勾选“Add Python to PATH”选项。

2. 安装依赖：

   • 打开命令提示符（CMD）或 PowerShell，安装所需的库：

     pip install torch transformers
     

3. 下载 DeepSeek 模型：

   • 根据 DeepSeek 的文档，下载特定的模型。通常，您可以使用 Hugging Face 的模型库或其他来源来获取模型文件。

4. 运行模型：

   • 创建一个 Python 脚本，例如 run_deepseek.py，并添加以下内容：

     from transformers import AutoModel, AutoTokenizer# 替换为 DeepSeek 的模型名称
     tokenizer = AutoTokenizer.from_pretrained("deepseek/model-name")
     model = AutoModel.from_pretrained("deepseek/model-name")# 示例输入
     inputs = tokenizer("Hello, world!", return_tensors="pt")
     outputs = model(**inputs)print(outputs)
     

5. 运行脚本：

   • 在命令提示符中，导航到脚本所在的目录并运行：

     python run_deepseek.py
     

注意事项

• 模型名称：确保您使用的模型名称是正确的，可以在 Hugging Face 模型库或 DeepSeek 的官方文档中找到可用的模型。
• 资源需求：确保您的计算机有足够的资源（如内存和显存）来运行模型，尤其是较大的模型。
• 文档：始终参考 Ollama 和 DeepSeek 的官方文档，以获取最新的安装和使用说明。

如果在安装或使用过程中遇到任何问题，请随时询问，欢迎互相交流学习！fullkyle