002-AI客服-RAG优化分析

文章目录前言项目结构概览与实现状态总结当前状态 项目概况️ 技术架构✅ 已实现功能⚠️ 有待修复的问题 下一步规划 当前 RAG 现状 RAG 优化全景图 强烈推荐的 5 个优化按性价比排序1. 混合搜索 (Hybrid Search)2. 相似度阈值过滤3. 引用标注4. Reranking重排序5. Prompt 模板优化 推荐实施顺序 实施后的效果前言项目结构概览与实现状态总结该项目基于Next.js 15使用App Router架构已实现以下核心功能项目结构主目录下有src、prisma、public等标准目录src内部组织了App Router所需的页面、API路由和组件。RAG功能实现项目包含关键的RAG文件src/lib/rag.ts、embedding.ts、documents/route.ts等数据库模型通过Prisma schema定义已建立多个迁移版本支持RAG相关表结构API路由已实现文档上传和聊天接口前端包含ChatPanel组件用于聊天界面交互依赖项项目集成了openai、prisma、supabase等多个技术栈支持现代Web开发需求。当前状态项目在RAG功能的实现上已有初步基础主要包含以下内容核心RAG算法实现rag.ts嵌入向量处理embedding.ts文档处理APIdocuments/route.ts聊天功能APIchat/route.ts前端聊天界面组件ChatPanel.tsx但从现有文件来看项目仍处于初期开发阶段RAG功能的具体实现细节和完整集成程度尚不明确需要进一步阅读相关核心文件来评估其成熟度。项目的整体情况 项目概况Next.js 15 TypeScript全栈项目定位为电商 AI 助手目前已实现完整的 RAG 知识库功能。️ 技术架构层级技术用途前端Next.js 15 App Router React 19UI 框架样式Tailwind CSS 4 shadcn/ui组件库数据库PostgreSQL pgvector数据和向量存储ORMPrisma 6数据管理认证Supabase Auth用户登录AIOpenRouter APILLM 和 Embedding国际化i18next react-i18next多语言支持✅ 已实现功能用户系统- Supabase 登录/注册、用户信息管理AI 聊天- 支持流式输出、多模型切换、图片上传RAG 知识库- 完整的检索增强生成功能向量搜索pgvector HNSW 索引文本搜索降级方案知识库管理页面添加/编辑/删除/搜索国际化- 中英文切换对话历史- 保存和恢复聊天记录⚠️ 有待修复的问题认证代码被注释-layout.tsx中的认证检查被注释了编辑文档功能不完善- 编辑文档是 DELETE 重新创建不是真正的 UPDATElint 错误较多- 有未使用的导入变量、any类型等消息去重存储- 保存用户消息时content是 MessageContent[] 对象可能导致存储问题 下一步规划高优先级文档真正的编辑更新 API清理 lint 错误PDF/Markdown 文件上传文档分块chunking中优先级混合搜索关键词 向量文档版本控制知识库权限管理低优先级RAG 调试/可视化界面Embedding 缓存优化AI 自动整理知识库 当前 RAG 现状你的项目目前是Naive RAG阶段。流程图用户问题 → Embedding →向量搜索(Top-K5)→ 直接拼接上下文 →LLM回答每一步都有优化空间上图每个箭头都是一个可优化的点。 RAG 优化全景图RAG 优化分了4 个层次以下是我整理的全策略清单标注了 ✅//❌策略效果复杂度本项目 检索前 — 让查询更精准查询改写 (Query Rewriting)⭐⭐⭐中✅ 高优先多查询生成 (Multi-Query)⭐⭐⭐中✅ 高优先HyDE (假设文档向量)⭐⭐中 可用同义词扩展⭐低 可用 检索中 — 提升召回质量混合搜索 (向量关键词)⭐⭐⭐⭐中✅ 强烈推荐相似度阈值过滤⭐⭐⭐低✅ 强烈推荐文档分块 (Chunking)⭐⭐⭐中✅ 重要元数据预过滤增强⭐⭐低 已有基础 检索后 — 筛选和重排重排序 (Reranking)⭐⭐⭐⭐中✅ 强烈推荐上下文压缩⭐⭐⭐中✅ 推荐去重⭐⭐低 看情况 生成优化 — 让回答更可靠引用标注⭐⭐⭐⭐低✅ 强烈推荐Prompt 模板优化⭐⭐⭐低✅ 强烈推荐自省/反思 (Self-Reflection)⭐⭐中 可用Query-Doc 相关性校验⭐⭐中 可用 强烈推荐的 5 个优化按性价比排序1. 混合搜索 (Hybrid Search)当前纯向量搜索短词/精确关键词如苹果909效果可能不如关键词搜索优化向量搜索 PostgreSQL 全文搜索用 RRF 融合排序用户问题苹果909├── 向量搜索匹配语义相关文档 └── 关键词搜索精确匹配苹果909→RRF融合排序 → 综合结果实现成本低pgvector 和 PostgreSQL 都原生支持。2. 相似度阈值过滤当前无阈值相似度 0.1 的文档也返回优化设置最小相似度如 0.5低于阈值的直接丢弃// 一行改动constvalidDocsresults.filter(rr.similarity0.5)避免 LLM 被不相关文档误导。3. 引用标注当前AI 回答不标明信息来源优化让 AI 在回答中标注[来源: 文档名]不仅要召回还要让用户知道答案来自哪里可信度翻倍。4. Reranking重排序当前pgvector 的余弦距离直接作为最终排序优化粗召回 Top-K(如20) → 用更精确的模型重排 → 取 Top-N(如5)OpenRouter 上有免费/便宜的 rerank 模型投入产出比极高。5. Prompt 模板优化当前RAG 指令比较简单优化加入 Few-shot 示例、引用格式要求、不相关时的处理逻辑这是零成本的优化纯 Prompt Engineering。 推荐实施顺序第1波零成本:Prompt 优化相似度阈值 第2波低成本:混合搜索引用标注 第3波中等成本:Reranking文档分块 第4波进阶:上下文压缩查询改写 实施后的效果当前:用户问题 → 向量搜索 → 拼接上下文 →LLM回答优化后:用户问题 → 查询改写 → 向量搜索关键词搜索 →RRF融合 → 阈值过滤 → Reranker重排 → 引用标注 → 上下文压缩 →LLM回答 ✅