树莓派上的边缘智能体

很长一段时间里我认为构建个人 AI 助手需要 GPU、云服务额度以及一场运维噩梦。事实证明我只需要一台树莓派 5、大约 200 美元以及一个明确的不满我厌倦了那些让我为它们工作的应用。这个想法最初很小。我收到了一台树莓派 5 作为圣诞礼物不想让它变成又一个积灰的设备。当时我正在用 Anki 学习中文。它有用但感觉很机械。每天都是一样的模式读英文用中文回答按再来或好的重复。那不是语言练习那是模式识别。所以我问自己如果我构建一个树莓派 AI 助手能将静态的闪卡变成动态的对话会怎样这个问题变成了一个我命名为 Casper 的个人 AI Agent——它悄悄地替代了我日常使用的多个应用。1、从闪卡到真正的 AI 学习伙伴传统的 Anki 复习很强大但也是可预测的。重复一张卡片足够多次后你记住的是问题格式而不是语言本身。通过将 Anki 与由 Gemini 驱动的 AI Agent 集成我创建了一个对话式闪卡系统。Casper 不会每次都问同样的问题而是会改写、改变结构、提出后续问题。它迫使我真正用中文思考。这就是具有记忆的 AI Agent 的强大之处。Casper 不仅仅是生成回复。它记住了我的中文水平。它记住了我偏好简短的纠正。它记住了我希望反馈直接但不过分压倒性。那个记忆层由 ChromaDB 和直接在树莓派上运行的本地嵌入支持。没有昂贵的向量数据库。没有云依赖。只有一个持续构建用户画像的持久本地记忆系统。那时我意识到这不仅仅是一个学习工具了它正在变成一个真正的自主 AI 助手。3、语音/Telegram/Webhook一个大脑多个接口大多数 AI 助手最大的问题之一是碎片化。你在一个应用里有聊天机器人在另一个应用里有自动化在别处有日历管理。我想要一个统一的 AI 系统。所以我构建了三个共享一个核心 Agent 架构的并行接口一个使用 Vosk 语音识别的语音助手、一个用于远程命令的 Telegram 机器人以及一个用于集成的 Webhook 服务器。语音助手使用 Vosk 进行唤醒词检测使用 Gemini Live API 在一个流水线中实现流式语音转文字、推理和文字转语音。延迟足够低感觉很自然。你说Casper大约一秒钟内你就在对话中了。Telegram 充当远程控制器。如果我远离树莓派可以发送语音消息或文本如添加周五下午 2 点的牙医预约它会立即更新 Google 日历。所有接口共享同一个记忆实例。如果我在 Telegram 中提到一个偏好语音助手会知道。如果我通过 Webhook 安排了什么事情它会在所有接口中反映出来。这就是让它感觉像一个 AI 操作系统而不是聊天机器人的原因。4、研究代理 任务自动化一个设备搞定真正的突破是在我添加了研究能力之后。使用 Gemini 和外部搜索集成我可以说研究一下 Constitutional AI 并总结一下Casper 就会朗读一个摘要。如果觉得重要我可以立即说据此创建一张 Anki 卡片。这就是由 AI 驱动的工作流自动化。我也在编程时使用它。我会让它查找关于推理优化的最新论文它在我继续工作的同时在后台研究。聊天机器人和 AI Agent 之间的区别在于主动性和执行力。聊天机器人回答问题。Agent 可以运行任务、调用工具、更新系统并记住上下文。5、200 美元 AI Agent 背后的架构硬件设置很简单树莓派 54GB 内存、一个小显示屏、一个麦克风/扬声器组合和稳定的网络。总成本约为 200 美元取决于组件。智能栈才是有趣的地方。语音由 Vosk 和 Gemini Live 处理。文本交互使用 Gemini 1.5 Flash API 以保证稳定性。函数调用实现工具执行。MCP 服务器通过一个自定义中间件注册表集成将 JSON-RPC 转换为 Gemini 兼容的函数声明。这意味着我可以插入新工具而无需重写 Agent。添加一个浏览器工具只需安装一个新的 MCP 服务器。添加任务自动化更新配置即可。系统是模块化和可扩展的——如果你想要一个随你演变的个人 AI 助手这一点至关重要。7、为什么这很重要现在 AI Agent 领域有很多炒作。大多数都运行在云端运营成本不菲。我的设置在重度使用的情况下每天花费约 1-3 美元。但更重要的是它改变了我与软件交互的方式。我不再打开五个应用来管理我的生活。我与一个编排一切的系统能对话。这种转变——从使用应用到指挥一个 AI 系统——是微妙但强大的。这不是在构建一个新奇的 Jarvis 克隆。这是在证明自主 AI Agent 正在变得对个人可及。一旦你体验过一个记住你的习惯、适应你的偏好、跨工具执行任务的助手传统应用就开始感觉……原始了。这个 200 美元的树莓派项目不仅仅是一个爱好实验。它是一窥未来五年个人 AI 基础设施可能的样子。原文链接树莓派上的边缘智能体 - 汇智网