RAG向量存储原理（余弦相似度、欧氏距离、ANN近似最近邻、HNSW原理、混合检索）

文章目录深入理解 RAG 向量存储原理一、什么是 RAG二、RAG 的核心流程三、什么是向量Vector四、Embedding 的本质五、向量空间Vector Space六、为什么高维向量能表达语义七、Chunk文本切块为什么重要1. 提高检索精度2. 控制上下文长度3. 提高召回率八、向量数据库到底存什么九、向量检索原理Step1问题向量化Step2与数据库向量比较Step3找到最相近的 TopK十、常见相似度算法1. Cosine Similarity最常见2. Euclidean Distance3. Dot Product十一、为什么向量检索这么快十二、ANN近似最近邻十三、HNSW 原理最常见十四、向量数据库有哪些十五、向量数据库 vs 传统数据库十六、Hybrid Search混合检索十七、RAG 的核心问题1. Chunk 切分2. Embedding 模型选择3. Recall召回4. Re-ranking十八、典型 RAG 架构十九、为什么 RAG 现在这么重要二十、总结深入理解 RAG 向量存储原理随着大语言模型LLM越来越强RAGRetrieval-Augmented Generation检索增强生成已经成为 AI 应用中的核心架构之一。无论是 AI 知识库、企业问答机器人、文档助手还是 AI 搜索系统背后几乎都离不开向量化Embedding向量数据库Vector Store相似度检索Similarity Search很多人第一次接触 RAG 时都会有几个疑问为什么文本能变成向量向量数据库到底存了什么为什么“语义相近”的内容能被搜索到向量检索和传统数据库查询有什么区别这篇文章会从底层原理出发系统讲清楚 RAG 向量存储的工作机制。一、什么是 RAGRAGRetrieval-Augmented Generation本质上是“先检索再让大模型生成答案”传统 LLM 的问题训练数据有时间截止不知道企业私有知识容易幻觉Hallucination无法实时更新知识RAG 的解决思路用户问题 ↓ 向量检索相关知识 ↓ 把知识拼接进 Prompt ↓ LLM 基于知识生成答案核心思想不让模型“硬记忆”而是“动态查资料”二、RAG 的核心流程完整流程通常如下原始文档 ↓ 文本切块Chunking ↓ Embedding 向量化 ↓ 存入向量数据库 ↓ 用户提问 ↓ Query 向量化 ↓ 向量相似度检索 ↓ 返回 TopK 文本 ↓ 拼接 Prompt ↓ LLM 生成最终答案这里最核心的一步文本 → 向量以及向量之间如何比较相似度三、什么是向量Vector在 RAG 中文本会被转换成一组高维数字例如“猫喜欢吃鱼” ↓ [0.123, -0.882, 0.451, ...]这组数字可能是 384 维768 维1024 维1536 维本质用数学空间表达“语义”四、Embedding 的本质Embedding 模型会学习语义相近 → 向量距离接近例如“如何安装 Python” “Python 安装教程”虽然文字不同但语义接近。Embedding 后向量距离也会接近而“如何安装 Python” “今天天气不错”距离就会很远。五、向量空间Vector Space可以把向量理解成语义坐标例如二维空间猫 (1,2) 狗 (1,3) 汽车(9,8)猫和狗距离近语义相近猫和汽车距离远语义差异大真实世界中不是二维。而是几百维甚至上千维六、为什么高维向量能表达语义Embedding 模型本质上是神经网络。训练过程中模型会学习词语之间的上下文关系例如苹果 - 水果 - 公司Embedding 会结合上下文理解。例如Apple released new chips与I ate an apple会得到不同语义向量。七、Chunk文本切块为什么重要RAG 通常不会整本书直接向量化而是切成小块例如每 500 token 一个 chunk原因1. 提高检索精度用户问题“数据库连接池原理”如果整个文档太大相关内容会被稀释。2. 控制上下文长度LLM 的 Context Window 有限制。例如8K32K128K tokens不能无限塞文档。3. 提高召回率小 chunk 更容易精准命中八、向量数据库到底存什么很多人误以为存的是文本其实通常存{ id, vector, text, metadata }例如{id:chunk-001,vector:[0.12,-0.55,...],text:连接池用于复用数据库连接,metadata:{source:db.md,page:3}}真正用于检索的是vectortext 只是附带返回。九、向量检索原理当用户提问“为什么需要连接池”系统会Step1问题向量化Query ↓ Embedding ↓ Query VectorStep2与数据库向量比较计算向量距离Step3找到最相近的 TopK例如Top 3 chunks十、常见相似度算法向量检索核心如何衡量“距离”1. Cosine Similarity最常见余弦相似度方向越接近 相似度越高核心思想不关注长度只关注方向非常适合语义搜索。2. Euclidean Distance欧氏距离空间中的直线距离类似二维坐标距离公式d ( x 2 − x 1 ) 2 ( y 2 − y 1 ) 2 d\sqrt{(x_2-x_1)^2(y_2-y_1)^2}d(x2​−x1​)2(y2​−y1​)2​3. Dot Product点积向量乘积计算快。很多 GPU 检索优化都会使用。十一、为什么向量检索这么快问题来了如果1 亿条向量逐个比较非常慢因此向量数据库会使用ANNApproximate Nearest Neighbor近似最近邻搜索。十二、ANN近似最近邻核心思想不用精确比较所有向量而是快速找到“足够近”的向量牺牲少量精度换取巨大性能提升。十三、HNSW 原理最常见很多向量数据库都使用HNSW全称Hierarchical Navigable Small World核心思想构建向量图类似社交网络向量之间建立“邻居关系”。检索时从高层快速跳跃 ↓ 逐渐逼近目标特点查询快精度高非常适合 RAG十四、向量数据库有哪些常见向量数据库数据库特点Milvus分布式能力强QdrantRust 编写现代化WeaviateAI NativePinecone云原生 SaaSChroma轻量本地开发FAISSMeta 开源库pgvectorPostgreSQL 插件十五、向量数据库 vs 传统数据库传统数据库SELECT*FROMdocsWHEREtitlePython是精确匹配而向量数据库语义匹配即使文本完全不同也能检索到。例如“如何安装 Python”也能搜到“Python 环境配置教程”十六、Hybrid Search混合检索现代 RAG 往往不是只做向量搜索而是关键词 向量例如BM25Full Text SearchVector Search组合。原因纯向量搜索有时会召回错误忽略关键术语数字匹配不稳定混合搜索能提升准确率。十七、RAG 的核心问题RAG 并不是“接个向量库”那么简单。真正难点1. Chunk 切分切太大召回不精准切太小上下文丢失2. Embedding 模型选择不同模型多语言能力代码能力中文能力差异巨大。3. Recall召回检索不到正确知识LLM 再强也没用。4. Re-ranking很多系统会先粗召回 ↓ 再重排序提升结果质量。十八、典型 RAG 架构现代 RAG 通常用户问题 ↓ Query Rewrite ↓ Embedding ↓ Hybrid Search ↓ TopK Recall ↓ Rerank ↓ Prompt Assemble ↓ LLM高级系统还会加入Query ExpansionGraph RAGAgentic RAGMulti-hop Retrieval十九、为什么 RAG 现在这么重要因为LLM ≠ 数据库LLM擅长推理生成总结不擅长精确知识存储实时更新企业私有数据RAG本质上是在给 LLM外挂知识系统二十、总结RAG 向量存储核心思想把语义转换成数学空间然后通过向量距离实现语义检索整个过程本质是文本 ↓ Embedding ↓ 高维向量 ↓ 相似度搜索 ↓ 召回知识 ↓ LLM生成答案真正让 RAG 强大的不是“大模型”。而是高质量检索因为检索质量决定最终回答质量。