江西冬酿科技有限公司 · 南昌市 · 服务江西及全国咨询热线 400-873-2750

RAG 系统全流程拆解:从检索到生成每一步在做什么

企业建知识库,最常听到的词是 RAG(检索增强生成)。听起来很高大上,做起来却经常答非所问。今天这篇文章把 RAG 系统从头到尾拆开,每一步在做什么、容易错在哪,写给要建知识库的企业技术负责人看,不是写给算法工程师看的。

这篇解决什么问题:如果你正在评估要不要建知识库、或者已经建了但效果不好,看完这篇能定位到是哪一环出了问题,而不是笼统地说”AI 不够智能”。

一、问题在哪:RAG 为什么经常答不准

企业知识库 RAG 系统架构示意图

很多企业花了几个月搭知识库,最后发现 AI 答非所问。问题通常不在模型,而在检索环节。RAG 的逻辑是:先从知识库里检索相关文档,再把文档喂给模型生成答案。检索不到对的文档,模型再强也答不对。

常见症状有三类:检索到的内容不相关(用户问 A,系统查到 B)、相关但不完整(只查到片段,缺上下文)、完整但排序错(关键信息被排到后面,模型没看全)。这三类问题对应三个不同的环节,不能混为一谈。

二、判断标准:RAG 五环节的健康度指标

环节 做什么 健康指标 常见失误
数据清洗 去掉噪声、统一格式 干净文档占比 ≥90% PDF 解析丢表格、OCR 错字
向量化 把文本转成向量 语义相似度可解释 切片太大/太小、忽略标题层级
索引构建 建立可检索的索引 查询响应 <200ms 索引未更新、增量同步失效
召回 检索相关文档 Top5 召回率 ≥80% 只用语义、忽略关键词
重排序 把最相关的排前面 Top3 准确率 ≥85% 没做重排、排序权重错

这张表是验收清单。每个环节都要能单独测、单独优化。如果供应商跟你说”效果不好是模型问题”,先让他提供这五个指标。

三、落地路径:从文档到可用知识库

落地路径分五步走,每步都有明确产出物。这不是”做实验”,而是工程项目,要有验收标准、有时间表、有责任人。下面按顺序拆解。

先说一个原则:不要追求一次性完美。RAG 系统是迭代出来的,不是设计出来的。第一版做到 70 分能用,比追求 100 分做到最后烂尾强得多。这也是为什么我们建议先做 POC(概念验证),用 10-20 篇核心文档跑通全链路,验证方向对了再全量投入。

1. 数据治理阶段(1-2 周)

先盘点企业现有文档:Word、PDF、Excel、邮件、聊天记录、PPT。这一步最容易被低估。数据质量决定 80% 的效果,模型只决定 20%。常见做法是先抽样 100 篇文档人工评估质量,再决定清洗规则。

清洗规则包括:去重、统一术语、补元数据(部门、时间、版本)、标记失效文档。不要把所有文档一股脑灌进去,失效文档会污染检索结果。

2. 切片与向量化阶段(1 周)

切片(chunking)是 RAG 最容易做错的一步。切太大,语义模糊;切太小,丢上下文。经验值:按标题层级切片,每片 200-500 字,保留标题作为元数据。表格单独切,不跟正文混。

向量化用什么模型不是重点,重点是切片策略要跟业务匹配。法律文档、技术手册、客服话术,切法都不一样。

3. 检索与重排阶段(1-2 周)

检索阶段建议混合检索:语义检索(向量)+ 关键词检索(BM25)取并集。纯语义检索会漏掉精确术语(比如产品型号、错误代码)。

重排序(rerank)是性价比最高的优化。把 Top 20 召回结果用交叉编码器重排,取 Top 3 喂给模型。这一步能提升 15-30% 的准确率。

四、成本与风险:建知识库要花多少钱

企业最关心成本。一个能上线的 RAG 知识库,成本主要四块:

硬件/算力:本地部署 GPU 服务器 5-20 万起,或云 API 按调用量付费(每月几千到几万)。数据治理:1-2 人月工时,约 2-5 万。开发集成:1-2 人月,约 3-8 万。持续运维:每月 0.5-1 人月,约 0.5-1 万/月。

风险点:数据隐私(文档喂给公有云 API 是否合规)、幻觉控制(模型编造答案)、持续更新(文档变了索引没变)。

成本控制的三条经验:一、先做 POC 再全量,用 10-20 篇核心文档跑通链路,验证效果再决定投入规模。二、数据治理别外包给不懂业务的人,业务部门参与比技术能力更重要。三、留出持续运维预算,知识库不是一次性项目,文档会变、业务会变、模型会更新。

一个常见误区:以为买了能力更强的模型就能解决所有问题。实际上,模型只占效果的 20%,剩下 80% 在数据和检索环节。把预算全压在模型上,最后大概率失望。

5. 上线与持续迭代阶段(长期)

上线不是终点。知识库需要持续更新:新文档入库、失效文档下线、用户反馈收集、准确率监控。建议每月做一次准确率抽检,发现问题及时修。

用户反馈机制也很重要:答案旁边加”这个回答有用吗”按钮,收集负面反馈。负面反馈是优化检索和重排的重要数据源,也是衡量知识库健康度的关键信号。

五、怎么验收:五个硬指标

验收是很多项目栽跟头的地方。企业以为”AI 能答问题”就是验收,供应商以为”系统能跑”就是交付,双方对”完成”的定义不一样,最后扯皮。验收标准必须量化、可测、写进合同。

验收标准要写进合同,不能靠感觉。建议验收清单:

1. 检索准确率:给定 50 个真实业务问题,Top3 命中率 ≥85%。2. 端到端准确率:模型答案人工评估”正确且完整”≥80%。3. 响应时间:单次问答 ≤3 秒。4. 幻觉率:编造事实的比例 ≤5%。5. 覆盖率:核心业务文档 全覆盖入库。

这五个指标谁负责?供应商负责实现,企业负责验收。验收不达标,按合同条款处理。

结语

RAG 检索增强生成流程图

RAG 不是”把文档扔给 AI”那么简单。每个环节都有坑,但也都有清晰的优化路径。建知识库这件事,前期数据治理越扎实,后期返工越少。如果看完这篇还是没把握,建议先做一次小规模 POC(概念验证),用 10-20 篇核心文档跑通全链路,再决定要不要全量投入。

需要进一步了解企业知识库建设方案,可以看看我们的 企业知识库服务,或者 联系我们 做一次免费诊断。想了解 AI 搜索优化的,可以看 AI 可见度诊断。更多 AI 落地实操内容,可以看我们的 知识库。

相关阅读

拨打 400-873-2750免费咨询