保姆级教程：在Win10的WSL2里，用Dify 1.9和Ollama 0.12.9搭一个本地的通义千问AI助手

零基础在Windows 10上打造专属AI助手WSL2DifyOllama实战指南你是否想过在自己的电脑上运行一个完全本地的AI助手不需要昂贵的云端算力不依赖网络连接所有数据都在本地处理。今天我们就用Windows 10自带的WSL2功能配合Dify和Ollama两大开源工具一步步搭建一个能流畅运行通义千问模型的私人AI助手。整个过程就像搭积木一样简单即使你是刚接触AI的新手也能轻松完成。1. 环境准备打造完美的WSL2开发环境在开始之前我们需要确保你的Windows 10系统已经准备好运行Linux环境。WSL2Windows Subsystem for Linux 2是微软提供的Linux子系统它比第一代WSL有更好的性能表现特别是对Docker的支持更加完善。检查WSL2是否已启用以管理员身份打开PowerShell输入命令wsl --list --verbose如果看到类似下面的输出说明WSL2已安装NAME STATE VERSION * Ubuntu-22.04 Running 2如果还没有安装WSL2可以按照以下步骤操作启用WSL功能dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart启用虚拟机平台dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart重启计算机设置WSL2为默认版本wsl --set-default-version 2从Microsoft Store安装Ubuntu 22.04 LTS安装完成后建议进行一些基础配置更新软件包列表sudo apt update sudo apt upgrade -y安装常用工具sudo apt install -y curl wget git配置SSH可选sudo apt install -y openssh-server提示WSL2默认会把Linux文件系统挂载在/mnt目录下但为了获得最佳性能建议在Linux自己的文件系统中工作如~/projects。2. 一键部署Dify 1.9开箱即用的AI应用平台Dify是一个强大的开源LLM应用开发平台它提供了直观的图形界面让开发者无需编写复杂代码就能构建AI应用。最新1.9版本在性能和稳定性上都有显著提升。安装Docker和Docker Compose在WSL2的Ubuntu终端中执行以下命令# 安装Docker sudo apt install -y docker.io sudo systemctl enable docker --now sudo usermod -aG docker $USER # 安装Docker Compose sudo curl -L https://github.com/docker/compose/releases/download/v2.23.0/docker-compose-$(uname -s)-$(uname -m) -o /usr/local/bin/docker-compose sudo chmod x /usr/local/bin/docker-compose部署Dify 1.9.2克隆Dify仓库git clone https://github.com/langgenius/dify.git --branch 1.9.2 cd dify/docker复制环境配置文件cp .env.example .env启动Dify服务docker compose up -d这个命令会启动多个容器包括Web界面、API服务、数据库等。首次运行可能需要几分钟时间下载镜像。常见问题解决如果遇到数据库权限错误可能是因为你在Windows文件系统中运行了Docker。解决方法很简单# 将项目移动到Linux主目录 mv /mnt/c/Users/yourname/dify ~/ cd ~/dify/docker docker compose up -d访问Dify管理界面在浏览器中输入http://localhost你应该能看到Dify的登录页面。默认管理员账号是用户名adminexample.com密码password首次登录后请立即修改密码。3. 部署Ollama并加载通义千问模型Ollama是一个轻量级的本地大模型运行框架它让在个人电脑上运行各种开源模型变得非常简单。我们将使用它来加载通义千问1.7B参数版本。安装Ollama 0.12.9在WSL2终端中执行curl -fsSL https://ollama.com/install.sh | sh安装完成后启动Ollama服务ollama serve下载通义千问模型打开另一个终端窗口执行ollama pull qwen:1.7b这个命令会下载约3.5GB的模型文件具体时间取决于你的网络速度。验证模型运行ollama run qwen:1.7b 你好介绍一下你自己如果看到模型的回复说明安装成功。4. 在Dify中连接Ollama模型现在我们已经有了运行中的Dify平台和Ollama模型服务接下来需要将它们连接起来。配置Dify访问Ollama登录Dify管理界面点击右上角设置图标 → 模型供应商 → Ollama点击添加模型按钮填写模型配置信息配置项值模型名称qwen3:1.7b基础URLhttp://host.docker.internal:11434模型类型对话模型上下文长度4096最大token上限4096是否支持Vision否点击保存按钮注意host.docker.internal是Docker提供的特殊域名指向宿主机即运行Ollama的WSL2环境。如果连接失败可以尝试使用WSL2的实际IP地址。解决高版本Ollama的推理显示问题Ollama 0.12.9版本默认会显示模型的推理过程这可能导致Dify界面卡在等待状态。我们可以创建一个自定义模型来解决这个问题创建一个名为qwen3n.mf的文件vim qwen3n.mf粘贴以下内容FROM qwen:1.7b TEMPLATE {{ if .System }}|im_start|system {{ .System }}|im_end| {{ end }}{{ if .Prompt }}|im_start|user /nothink{{ .Prompt }}|im_end| {{ end }}|im_start|assistant {{ .Response }}|im_end| 创建新模型ollama create qwen3n:1.7b -f ./qwen3n.mf在Dify中添加这个新模型配置方法与之前相同5. 创建你的第一个AI聊天应用现在一切准备就绪让我们在Dify中创建一个简单的聊天应用。登录Dify点击创建应用选择对话应用类型为应用命名如我的AI助手在提示词编排页面选择模型供应商Ollama选择模型qwen3n:1.7b设置温度(Temperature)为0.7控制创造性的参数在系统提示中输入你是一个乐于助人的AI助手回答要简洁专业点击保存按钮测试你的AI助手在应用页面右上角点击发布然后选择访问地址。这会打开一个新的浏览器标签页你可以在这里与你的AI助手对话了。试试问它一些问题用Python写一个快速排序算法如何用Dify创建一个文本总结应用解释一下量子计算的基本概念高级技巧提升响应速度如果你的电脑配置不高可能会觉得模型响应有点慢。可以尝试以下优化在WSL2配置文件中增加内存限制在%USERPROFILE%\.wslconfig中添加[wsl2] memory8GB swap4GB使用量化版本的小模型如qwen:1.7b-q4_0关闭其他占用资源的程序6. 扩展应用从聊天到多功能助手基础的聊天功能只是开始Dify还支持创建更复杂的AI应用。让我们尝试构建一个多功能的个人助手。创建文本总结工具新建一个文本生成类型应用使用以下提示词模板请将以下文本总结为不超过100字的摘要 {{input}} 摘要要求 - 保留核心信息 - 语言简洁明了 - 不要添加原文中没有的内容发布后粘贴一段长文本测试效果构建知识库问答系统在Dify中创建一个新应用选择知识库问答类型上传一些PDF或TXT文档如产品手册、学习资料配置检索参数检索方式语义检索返回结果数3测试提问与上传文档相关的问题性能对比不同模型设置的影响参数响应速度回答质量适用场景Temperature0.3快保守准确事实性问答Temperature0.7中等平衡一般对话Temperature1.0慢富有创意头脑风暴max_tokens512快可能不完整简短回答max_tokens2048慢完整详细复杂问题7. 日常维护与问题排查为了让你的本地AI助手持续稳定运行需要了解一些基本的维护技巧。常用Docker命令# 查看运行中的容器 docker ps # 查看Dify日志 docker compose logs -f # 重启Dify服务 docker compose restart # 更新Dify版本 git pull docker compose down docker compose up -d --force-recreateOllama管理技巧查看已安装的模型ollama list删除不需要的模型ollama rm 模型名更新模型ollama pull 模型名常见问题解决方案Dify界面无法访问检查Docker是否运行docker ps检查端口是否被占用netstat -tulnp | grep 80尝试重启服务docker compose restart模型响应速度突然变慢检查系统资源使用htop重启Ollama服务pkill ollama ollama serve考虑使用更小的量化模型对话内容不符合预期检查系统提示词设置调整Temperature参数0.3-1.0之间尝试清除对话历史重新开始备份策略虽然所有数据都在本地但定期备份仍然很重要Dify数据备份docker exec -t docker-db-1 pg_dump -U postgres -d app dify_backup.sqlOllama模型备份模型文件默认存储在~/.ollama/models可以复制整个目录到安全位置这套本地AI助手方案最大的优势就是完全在掌控之中没有数据外泄的风险响应速度也不会受网络影响。我在自己的老款笔记本上运行处理日常问答、代码建议绰绰有余。遇到复杂问题时可以随时调整模型参数或提示词这种灵活性是云端服务难以提供的。