RAG检索效果差？先换Embedding模型

问RAG系统上线后用户反馈“问A答B”团队调了两周分块参数效果还是不理想。问题到底出在哪答大概率不是分块的问题是Embedding模型选错了。分块对检索效果的影响远小于Embedding模型的选择。这是一个容易踩的坑——分块策略是“看得见的”参数工程师可以直观调整而Embedding模型是“黑盒”大多数人甚至不知道还能换。一、分块策略的贡献被高估了分块策略的核心作用只是“保证语义完整性”——不要把完整段落拦腰切断不要让相关内容散落在不同块里。只要你的分块策略不是极端离谱它对检索效果的贡献其实很小。实践中常见的情况团队花两周反复试256/512/1024 token的分块大小试了各种overlap比例效果提升非常有限。不是说分块不重要而是它确实不是主要矛盾。二、Embedding模型才是真正的天花板Embedding模型负责把文本转成向量。不同模型生成的向量空间结构完全不同。如果模型本身的“语义相似”判定逻辑和你的业务场景不匹配分块做得再好也没用。企业级RAG常见Embedding方案对比模型维度中文能力适用场景BAAI/bge-large-zh-v1.51024国内第一梯队通用中文企业知识库text-embedding-3-large3072强多语言混合、效果极致要求qwen-text-embedding1536强阿里云生态、中文为主开源自建小模型384-768一般资源受限场景切换Embedding模型的收益通常是召回率5%到15%且没有技术风险。方法很简单新建collection用新模型重新跑一遍向量化对比几个典型问题的召回结果。效果好就切效果不好就回滚。三、混合检索比纯向量检索更稳除了换模型还有另一个高性价比优化混合检索——向量检索关键词检索两路结果合并排序。向量检索擅长语义泛化关键词检索擅长精确匹配。两者结合召回率通常比纯向量检索高15-30%。多数向量数据库Milvus、Qdrant原生支持混合检索开启成本极低。检索质量优化优先级1.换Embedding模型投入1-2天召回率5%~15%2.开混合检索投入半天召回率15%~30%3.调分块策略投入1-2周召回率0%~10%FAQQ换Embedding模型需要重新向量化所有文档吗A需要。不同模型生成的向量空间不兼容更换后必须全量重新向量化。建议在测试环境先验证效果再切生产。Q开源Embedding模型和商业API差距大吗A对中文企业知识库BGE系列开源模型和商业API的差距正在缩小。有合规要求或数据不能出域的场景开源模型是唯一选择。Q混合检索的权重怎么调A多数向量数据库使用RRF算法不需要手动调权重。自定义融合可从0.5:0.5起步根据实际效果微调。