基于Ollama与OpenClaw框架，在Ubuntu VPS上部署私有AI助手

1. 项目概述与核心价值最近在折腾一个挺有意思的东西叫OpenClaw。简单来说它是一个开源的AI智能体Agent框架能让你自己部署一个功能丰富的AI助手。这玩意儿最吸引我的地方在于它能和本地的Ollama大语言模型LLM无缝对接再通过Telegram这样的即时通讯工具提供服务。这意味着什么意味着你可以在自己的Ubuntu VPS虚拟专用服务器上用自己部署的模型搭建一个完全私有、数据不出你服务器的AI助手。无论是用来处理日常查询、自动化任务还是作为一个开发辅助工具都完全在你的掌控之中。对于那些关心数据隐私、不想把对话记录交给第三方云服务或者像我一样喜欢折腾、想把AI能力深度集成到自己工作流里的开发者来说这个组合方案非常有吸引力。它把“自托管”Self-Hosted和“AI自动化”AI Automation这两个概念很好地结合在了一起。整个搭建过程从环境准备、模型部署到框架配置其实是一套标准的DevOps实践对于想学习如何在生产环境部署AI应用的朋友也是一个很好的练手项目。接下来我会把我从零开始在一台Ubuntu VPS上部署OpenClaw Ollama Telegram Bot的完整过程以及中间踩过的坑、总结的经验毫无保留地分享出来。我的环境是一台8GB内存、纯CPU的VPS所以选型上会偏向于轻量、高效的模型。如果你有GPU选择会更多性能也会更好。2. 环境准备与核心组件解析在开始敲命令之前我们得先搞清楚我们要搭建的这个系统里每个组件是干什么的以及为什么选它们。这能帮你更好地理解整个架构出了问题也知道该从哪儿排查。2.1 系统环境与依赖选择我们选择Ubuntu作为操作系统主要是因为它社区支持好软件包丰富教程也多对于服务器环境来说是“不会错”的选择。VPS的配置我推荐至少2核CPU、8GB内存。内存是关键因为我们要在本地运行一个7B参数量的模型8GB是保证其能顺利加载并运行的基本要求。如果你的预算充足或者有GPU资源那体验会直线上升。整个方案的核心依赖有三个Node.jsOpenClaw框架本身是用JavaScript/TypeScript写的运行它需要Node.js环境。我们不会直接用系统包管理器安装固定版本而是用NVMNode Version Manager。这是业内非常普遍的做法因为它允许你在同一台机器上轻松安装、切换和管理多个Node.js版本对于后续维护和升级极其友好。libatomic1库这是一个系统级的原子操作库。某些用Rust或Go等语言编译的二进制程序比如Ollama的某些组件在运行时需要它来保证多线程操作的安全性。虽然你的系统可能没有预装但安装它非常简单属于基础依赖补全。Ollama这是我们整个系统的“大脑”提供商。Ollama是一个强大的工具它能让你在本地轻松地拉取、运行和管理各种开源大语言模型。它提供了类似Docker的简单命令但专门为LLM优化内置了模型文件管理和一个兼容OpenAI API的本地服务接口。这意味着任何能调用OpenAI API的应用理论上都能无缝切换到本地的Ollama模型上OpenClaw正是利用了这一点。2.2 模型选型背后的考量模型的选择直接决定了你AI助手的能力上限和响应速度。在Step 3中我们使用了ollama pull qwen2.5-coder:7b这个命令。这里有几个关键点需要解释为什么是Qwen2.5-CoderQwen通义千问是阿里开源的模型系列其Coder版本专门针对代码生成、理解和调试进行了优化。对于开发者而言一个能理解代码上下文、协助编写脚本、解释错误的AI助手非常实用。即使你不常写代码一个经过代码训练的模型其逻辑性和结构化输出能力通常也更强。为什么是7B参数“7B”代表70亿参数。在有限的CPU和8GB内存环境下7B模型是目前性价比和可用性的最佳平衡点。更大的模型如32B虽然能力更强但对内存的需求呈指数级增长在纯CPU上推理速度也会慢到无法接受。qwen2.5-coder:7b这个版本在保持较强能力的同时对资源相对友好。“Tag”的作用qwen2.5-coder:7b中的:7b是一个标签Tag。Ollama的模型库中同一个模型可能有多个标签对应不同的量化版本如4-bit, 8-bit量化或不同的参数规模。指定标签可以确保你拉取到的是最适合你硬件环境的版本。注意Ollama在拉取模型时会从其官方仓库下载。请确保你的VPS网络连接通畅首次拉取几个GB的模型文件可能需要一些时间具体取决于你的带宽。如果你的VPS配备了GPU比如NVIDIA的显卡那么恭喜你你可以解锁更强大的模型。在Ollama中只需在运行命令时添加-g参数例如ollama run qwen2.5-coder:7b -g它就会自动尝试使用GPU进行推理速度会有数量级的提升。这时你可以考虑拉取qwen2.5-coder:32b甚至deepseek-r1:32b这类更大的模型以获得接近顶级闭源模型的推理和编码能力。2.3 OpenClaw的角色定位OpenClaw在这里扮演的是“调度中心”和“技能平台”的角色。它不是一个模型而是一个框架。它的核心功能包括多模型接入可以配置多个AI模型提供商如OpenAI的API、 Anthropic的Claude以及我们这里用的本地Ollama。技能Skills系统这是OpenClaw的精华。你可以为你的AI助手安装各种“技能”比如联网搜索、读取文件、执行命令、管理日历等。这相当于给一个只会聊天的模型装上了手和脚让它能真正为你做事。网关Gateway服务作为一个常驻后台服务运行负责接收来自各个渠道如Telegram、Web UI的请求调用相应的模型和技能进行处理并返回结果。统一的配置和管理通过一个中心化的配置文件openclaw.json和命令行工具管理整个系统的运行。理解了这些我们再动手就会明白每一步的目的而不是机械地复制粘贴命令。3. 详细部署步骤与实操要点现在我们进入实战环节。请确保你已经通过SSH连接到你的Ubuntu VPS并拥有sudo权限。3.1 基础环境搭建首先我们安装Node.js。如之前所说使用NVM是最佳实践。curl -o- https://raw.githubusercontent.com/nvm-sh/nvm/v0.39.7/install.sh | bash这条命令会从GitHub下载NVM的安装脚本并执行。安装完成后你需要重新加载你的shell配置文件让nvm命令生效。source ~/.bashrc对于使用Zsh的用户可能需要执行source ~/.zshrc。执行后可以运行nvm --version来验证安装是否成功。接下来安装当前推荐的长期支持LTS版本或最新稳定版的Node.js。nvm install --lts # 或者安装最新稳定版 # nvm install node安装完成后使用node --version和npm --version检查版本。NVM的一个便利之处是它已经自动将安装的Node.js版本设置为默认版本。接着安装系统依赖libatomic1。sudo apt update sudo apt install -y libatomic1sudo apt update是更新本地软件包索引确保安装的是最新版本。-y参数表示自动确认安装避免中途需要手动输入‘Y’。3.2 部署AI大脑Ollama与模型安装Ollama的过程极其简单官方提供了一键脚本。curl -fsSL https://ollama.ai/install.sh | sh-fsSL是cURL命令的参数组合-f失败时静默、-s静默模式、-S显示错误、-L跟随重定向。这个脚本会自动添加Ollama的仓库、安装软件包并设置系统服务。安装完成后启动Ollama服务并设置开机自启。sudo systemctl start ollama sudo systemctl enable ollama使用systemctl status ollama可以查看服务运行状态确认其处于active (running)。现在拉取我们选定的模型。这一步耗时较长请耐心等待。ollama pull qwen2.5-coder:7b你可以通过ollama list命令查看本地已拉取的模型。如果想尝试运行一下模型可以执行ollama run qwen2.5-coder:7b然后直接在终端里对话测试模型是否正常工作。测试完后按CtrlD退出。3.3 安装与配置OpenClaw框架使用npm全局安装OpenClaw命令行工具。npm install -g openclawlatest-g代表全局安装这样你可以在任何目录下使用openclaw命令。安装完成后运行openclaw --version验证。接下来是关键的一步运行OpenClaw的引导向导。这个向导会交互式地帮你完成核心配置。openclaw onboard --install-daemon--install-daemon参数告诉向导完成后要安装并启动后台网关服务。现在请紧跟向导的每一步风险提示选择“Yes, I understand this is inherently risky”并按回车。这只是一个法律免责声明提示你AI助手可能产生不可预知的行为。启动模式选择Quick Start快速开始。对于初次部署这是最省心的选择。模型提供商这里会列出一些云端AI服务如OpenAI, Anthropic。因为我们使用本地Ollama所以直接选择Skip for now暂时跳过并按回车。我们后续会手动配置。技能范围选择All Providers所有提供者。这会在技能选择列表中展示所有可用的技能。手动输入模型选择Enter model manually手动输入模型。向导可能会尝试检测一个默认模型我们忽略它直接回车进入手动模式。连接渠道选择Telegram。这是我们为AI助手选择的“前台”。创建Telegram Bot这一步需要你离开终端打开Telegram应用。搜索BotFather这是Telegram官方的机器人管理工具。向它发送/newbot命令然后按照提示给你的机器人起一个名字例如My OpenClaw Assistant。给你的机器人设置一个唯一的用户名必须以bot结尾例如my_openclaw_bot。创建成功后BotFather 会给你一串“HTTP API访问令牌”形如1234567890:ABCdefGhIJKlmNoPQRsTUVwxyZ。务必复制并保存好这串令牌它相当于你机器人的密码。输入Bot Token回到终端向导粘贴你刚刚复制的Bot Token然后按回车。配置技能选择Yes, configure skills是的配置技能。技能是OpenClaw的灵魂。安装Homebrew这里指的是OpenClaw内部的技能包管理器不是macOS的那个Homebrew。选择npm作为安装方式即可。选择技能现在你会看到一个技能列表可以用上下箭头浏览用空格键选中/取消选中。对于初学者我强烈建议至少选中Claw Hub。这个技能本身不提供具体功能但它是一个技能商店允许你以后通过简单的命令随时查找和安装新的技能非常方便。你也可以根据兴趣选择其他技能比如web-search联网搜索、files文件操作等。选中后按回车确认。配置技能API密钥某些技能如web-search可能需要Serper或Google API Key需要额外的配置。如果暂时没有可以选择No跳过。以后可以在OpenClaw的Web UI里补充。安装网关服务当向导提示时同意安装网关服务。这会创建一个systemd用户服务openclaw-gateway让你的AI助手在后台持续运行。孵化设置选择Do this later稍后处理。这是OpenClaw的一个高级特性用于创建和管理多个AI智能体初次使用可以先跳过。完成看到“Onboarding complete”提示说明基础配置已完成。向导通常会在最后输出网关服务的运行状态和Web UI的访问地址默认为http://127.0.0.1:18789。3.4 关键整合将Ollama模型接入OpenClaw到目前为止OpenClaw和Ollama还是两个独立的服务。我们需要修改OpenClaw的配置文件告诉它“别去找外面的AI了就用我本地Ollama提供的这个模型。”OpenClaw的配置文件通常位于~/.openclaw/openclaw.json。我们可以用一行Python命令来精准地修改它。这条命令看起来复杂但其实是在做一件很简单的事用我们本地Ollama的模型信息替换掉配置文件里默认的模型设置。python3 -c import json path /home/ubuntu/.openclaw/openclaw.json with open(path) as f: cfg json.load(f) cfg[agents][defaults][model][primary] ollama/qwen2.5-coder:7b cfg[agents][defaults][models] {ollama/qwen2.5-coder:7b: {alias: Qwen 2.5-Coder 7B}} cfg[models] {mode: merge, providers: {ollama: {baseUrl: http://127.0.0.1:11434/v1, apiKey: ollama-local, api: openai-responses, models: [{id: qwen2.5-coder:7b, name: Qwen 2.5-Coder 7B, reasoning: False, input: [text], cost: {input: 0, output: 0, cacheRead: 0, cacheWrite: 0}, contextWindow: 32000, maxTokens: 4096}]}}} with open(path, w) as f: json.dump(cfg, f, indent2) print(Done) 逐行解析这个配置cfg[agents][defaults][model][primary]设置默认AI智能体使用的主要模型ID。ollama/是提供商前缀后面接Ollama中的模型名。cfg[agents][defaults][models]为这个模型定义一个友好的别名。cfg[models][providers][ollama]定义名为“ollama”的模型提供商。baseUrl: http://127.0.0.1:11434/v1这是Ollama默认提供的、兼容OpenAI API的端点地址。apiKey: ollama-localOllama本地服务通常不需要鉴权这里可以任意填写一个非空字符串。api: openai-responses指定使用OpenAI兼容的响应格式。models列表定义了该提供商下的具体模型。id必须与Ollama中的模型名一致。contextWindow和maxTokens可以根据模型的实际能力调整这里使用的是Qwen2.5-Coder 7B的典型值。执行命令后如果看到终端输出“Done”说明修改成功。重要提示如果你在Step 3拉取的不是qwen2.5-coder:7b而是其他模型例如llama3.2:3b你必须将上面命令中所有出现的qwen2.5-coder:7b替换成你实际拉取的模型名。否则OpenClaw将无法找到正确的模型。如果执行命令时遇到FileNotFoundError: [Errno 2]错误说明配置文件路径不对。可能是你的用户名不是ubuntu。你可以用以下命令查找确切的路径ls -la ~/.openclaw/openclaw.json找到路径后将上面Python命令中path 后面的路径替换成你找到的实际路径即可。3.5 重启服务与最终配对配置文件修改后需要重启OpenClaw的网关服务来加载新配置。systemctl --user restart openclaw-gateway使用systemctl --user status openclaw-gateway检查服务状态确保其重启成功。现在激动人心的时刻到了配对Telegram Bot。打开Telegram找到你刚刚创建的Bot通过它的用户名如my_openclaw_bot。向它发送任意一条消息比如“Hello”。你的Bot会回复一条消息其中包含一个配对码Pairing Code和一个形如openclaw pairing approve telegram XXXXXX的命令。回到你的VPS终端复制Bot回复中的完整命令并将其中的XXXXXX替换为实际的配对码然后执行。例如openclaw pairing approve telegram ABC123如果配对成功终端会有相应提示。同时你的Telegram Bot也会发送一条确认消息。至此你的私有AI助手已经正式上线你现在可以在Telegram里和它对话了。你可以问它问题也可以让它使用你安装的技能比如如果你安装了web-search技能可以尝试让它“搜索今天的科技新闻”。此外你还可以通过浏览器访问OpenClaw的Web管理界面地址通常是http://你的VPS IP:18789在那里你可以更直观地管理技能、查看对话记录、调整配置等。4. 深度配置、问题排查与优化建议基础搭建完成后我们可以玩得更深入一些。这里分享一些进阶配置和常见问题的解决方法。4.1 模型管理与性能调优管理多个模型Ollama可以同时拉取和运行多个模型。你可以用ollama pull拉取新模型用ollama list查看用ollama run 模型名切换运行。在OpenClaw配置中你可以在cfg[models][providers][ollama][models]列表里添加多个模型定义然后在Web UI或通过命令为不同的智能体分配不同的模型。优化Ollama性能CPU优化对于纯CPU环境可以尝试在运行Ollama时指定线程数。编辑Ollama的系统服务配置文件sudo systemctl edit ollama。在打开的编辑器中加入[Service] EnvironmentOLLAMA_NUM_PARALLEL4将4改为你VPS的CPU核心数。保存退出后执行sudo systemctl daemon-reload sudo systemctl restart ollama。GPU支持如果有确保你的VPS已安装正确的NVIDIA驱动和CUDA工具包。Ollama会自动检测GPU。你可以通过ollama run 模型名 -g来指定使用GPU运行速度会快很多。在OpenClaw配置中模型性能的提升会自动体现。4.2 OpenClaw技能生态探索OpenClaw的强大在于其技能系统。安装完Claw Hub后你可以通过以下命令探索和安装新技能# 列出所有可用技能 openclaw skills list # 搜索特定技能例如搜索和文件相关的 openclaw skills search file # 安装一个技能例如安装用于读取PDF的技能 openclaw skills install pdf安装后技能通常需要一些配置比如API密钥或设置工作目录。这些可以在Web UI的Skills页面完成。合理搭配技能可以让你的AI助手从“聊天机器人”进化成真正的“个人工作助理”。4.3 常见问题与故障排除在部署和使用过程中你可能会遇到以下问题问题现象可能原因排查与解决步骤Telegram Bot无响应1. OpenClaw网关服务未运行。2. 网络问题Bot无法回调到你的VPS。3. 配对未成功或已过期。1. 运行systemctl --user status openclaw-gateway检查服务状态。重启服务systemctl --user restart openclaw-gateway。2. 确保VPS的防火墙如UFW放行了程序所需端口内部端口通常无需公开但需确保VPS可访问外网。3. 在Telegram中重新发送消息获取新的配对码和命令重新执行openclaw pairing approve。OpenClaw Web UI无法访问1. 服务未运行。2. 防火墙阻止了18789端口。3. 试图从外网访问但服务只监听在127.0.0.1。1. 同上检查网关服务状态。2. 如果你需要从外网访问需配置防火墙规则并确保OpenClaw监听在0.0.0.0。注意安全风险可以修改启动参数或配置文件中的host设置。3. 通过SSH隧道本地访问更安全ssh -L 18789:localhost:18789 useryour_vps_ip然后在本地浏览器访问http://localhost:18789。AI回复慢或超时1. VPS CPU资源不足。2. 模型太大7B模型在低配CPU上推理本身较慢。3. 首次请求需要加载模型至内存。1. 使用htop或top命令监控CPU和内存使用情况。2. 考虑换用更小的模型如3B参数或升级VPS配置。3. 首次对话后的请求会快一些因为模型已加载。执行ollama命令提示“命令未找到”Ollama安装后其可执行文件路径未加入当前用户的PATH环境变量。1. 尝试重新登录SSH会话。2. 手动添加路径export PATH$PATH:/usr/local/bin路径可能不同可用which ollama查找。将export命令添加到~/.bashrc或~/.profile中使其永久生效。OpenClaw日志报错连接Ollama失败1. Ollama服务未启动。2. OpenClaw配置中的baseUrl错误。3. 端口冲突Ollama未运行在11434端口。1. 运行sudo systemctl status ollama检查并启动服务。2. 确认配置文件中baseUrl为http://127.0.0.1:11434/v1。3. 运行 ss -tlnp4.4 安全与维护建议Telegram Bot Token保密这个Token一旦泄露别人就能控制你的Bot。切勿提交到公开的代码仓库。定期更新关注Ollama和OpenClaw的GitHub仓库或社区定期更新以获得新功能和安全性修复。# 更新Ollama sudo systemctl stop ollama curl -fsSL https://ollama.ai/install.sh | sh sudo systemctl start ollama # 更新OpenClaw CLI npm update -g openclaw备份配置定期备份你的~/.openclaw/目录尤其是openclaw.json配置文件。这样在迁移服务器或重装系统时可以快速恢复。资源监控使用htop,nvidia-smi(如有GPU),journalctl -u ollama -f等工具监控系统资源和服务日志便于及时发现异常。整个搭建过程从裸机VPS到一个能通过Telegram对话的私有AI助手涉及了系统运维、软件部署、网络配置和AI应用集成等多个环节。这套组合拳打下来不仅得到了一个实用工具更是一次对现代AI应用栈的深度实践。最让我满意的是所有数据都在自己手里那种掌控感是使用任何云端API都无法比拟的。如果你在部署过程中遇到了上面没提到的问题最好的方法是去查阅OpenClaw和Ollama的官方文档或GitHub Issues页面社区通常非常活跃。