跳到主内容

什么是 RAG?企业知识库问答是怎么实现的

2026-10-05 发布 来源:我告诉你AI导航 阅读

问公开常识,AI 对答如流;问「我们公司的报销标准是多少」,它就答不上来——因为模型的训练数据里没有你们公司的制度。RAG(Retrieval-Augmented Generation,检索增强生成)解决的就是这个问题:回答前先去企...

问公开常识,AI 对答如流;问「我们公司的报销标准是多少」,它就答不上来——因为模型的训练数据里没有你们公司的制度。RAG(Retrieval-Augmented Generation,检索增强生成)解决的就是这个问题:回答前先去企业资料库里查,把查到的段落交给大模型,让它照着资料回答。这条链路拆开是六步,每一步都决定答案质量,也各有一个容易踩的坑。

链路六步:一份文档是怎么变成一次回答的

切块:文档进来先切成几百字一段的小块,切口尽量落在章节、段落这些语义边界上。切太碎,单块读不出上下文;切太大,一块里混了多个主题,检索不精准。

向量化:每一块用嵌入模型转成一串数字,也就是向量。语义相近的内容,向量距离就近——「差旅报销」和「出差费用怎么报」字面不同,向量却挨得很近,这是语义检索能找到内容的关键。

召回:用户的问题同样转成向量,在库里找出距离最近的一批候选块,通常取前几十条。这一步求全不求准,宁可多捞几条,也不能把相关内容漏在外面。

重排:用更精细的模型对候选逐条打分,把真正相关的几条挑出来。召回负责广撒网,重排负责精挑,两步分工明确。

拼上下文:把选中的块连同问题一起填进提示词,并加一句约束——依据以下资料回答,资料里没有的直说没有。

引用溯源:回答里标注每条结论出自哪个文档、哪个章节,用户能点回原文核对。

每一步都有对应的坑

切块的坑是把结构切碎:一张表格从中间切开,检索到的半块谁也读不懂;条款被拦腰切断,前后条件对不上。向量化模型的坑是换模型要整库重算,换之前先评估,选定了就别频繁动。召回与重排的坑是垃圾进垃圾出:拼进上下文的块不对,后面的模型写得再流畅也是在错误资料上发挥。排查线上问题要靠执行过程的可观测性手段,检索捞了什么、重排留下什么,都要能打出来看。

引用溯源为什么值得多花力气

三个作用。一是用户能核对,答案敢不敢用,点开出处三十秒就能判断。二是排查快,答错了能定位到是哪个块检索错了,不用从头猜。三是约束生成:模型被要求「给不出出处就直说」时,编造率会下降。做法上,切块时保留文档名、章节号、更新日期这类元数据,回答时一并带出来。

RAG 解决不了的四件事

权限:向量库默认谁都能查到所有块。人事制度里写了各级薪酬的段落,普通员工一问就出来。权限过滤要在检索层做——按提问者身份决定哪些块允许进上下文,这是企业落地时最费工、也最容易出事故的部分。

时效:库里没有的它答不出;资料更新后要重新切块入库,答案才会跟着变。被要求删除的内容,同样要从库里清干净,这和模型端的机器遗忘是两个独立的问题,别指望删了源文件就完事。

表格与结构化内容:表格被切成纯文本后,行列对应关系容易丢失,数字检索出来了却对不上行列,答出来的数字可能是别的格子里的。报表类问答需要按表格结构单独处理,多数通用系统没做这一步,采购前要单独验证。

资料本身错:检索忠实于库,库里的错它照着错。治理资料质量,比调模型参数见效更直接。

建库前先对号入座

场景建议做法验收标准
制度文档问答按章节切块,保留章节号元数据抽 20 个问题,全部能溯源到原文
报表含大量表格表格单独处理,不与正文混切抽查数字与行列对应无错位
多部门共用一套库检索层按身份过滤权限普通账号查不到越权内容
资料更新频繁定时重建索引,留更新记录新文档入库当天即可被答出

用法:先确认自己的场景落在哪一行,验收时拿「验收标准」一列逐项打勾,全过再上线。

三个值得多问一句的问题

有了 RAG 还需要微调吗?两件事解决不同问题:RAG 管知识的新鲜度,微调管输出风格和流程的稳定。知识经常变的场景优先 RAG,微调和 RAG 怎么选可以单独展开读,想清楚分工再决定要不要叠加。

为什么我的知识库系统总答非所问?先查检索,再查生成。把中间召回的块打出来看:块捞错了,换嵌入模型或调整切块方式比改提示词有用;块捞对了还答错,才是提示词或模型的问题。

文档里的截图和图片怎么办?纯文本链路会直接漏掉图里的信息。常见做法是把图中的关键信息用文字提取后入库,或改用支持图文的多模态方案,视预算和资料量决定。

RAG 速查

  • 六步:切块、向量化、召回、重排、拼上下文、引用溯源
  • 答非所问先查检索,再查生成
  • 权限过滤在检索层做,不靠模型自觉
  • 表格类内容单独处理,切错就答错

RAG 的价值在于让回答有据可依:模型没变,变的是它每次回答前手里有什么资料。把六步链路每一步的质检做好,比换更贵的模型更能拉高答案质量。

反馈页面信息

请描述需要更正的地方,页面标题和网址会自动附上。

也可以发邮件至 [email protected]