RAG 工作流程图

一、AI 知识库不是“上传资料”这么简单

现在大部分 AI 知识库背后用的都是 RAG。

RAG 可以简单理解成：

先从你的资料里找相关内容，再让大模型根据这些内容回答。

这个逻辑听起来很合理。

比如你上传了一份员工手册，问：

“请假流程是什么？”

系统先从员工手册里找出请假相关的段落，再交给大模型整理成一句人话。

这种问题，RAG 通常表现不错。

但一旦问题变复杂，它就容易出问题。

比如你的知识库里有三份资料：

第一份资料说：A 公司收购了 B 公司。

第二份资料说：张三是 A 公司的 CTO。

第三份资料说：张三后来加入了某个大模型项目。

你问 AI：

“收购 B 公司的企业，它的 CTO 后来加入了哪个项目？”

这个问题对人来说不难。

人会这样推理：

A 公司收购了 B 公司；

A 公司的 CTO 是张三；

张三后来加入了某个项目；

所以答案是那个项目。

但普通 RAG 很可能只找到前两份资料，找不到第三份。

为什么？

因为第三份资料里可能没有出现“收购”“B 公司”“CTO”这些关键词。

对传统检索来说，这条线索就断了。

所以很多 AI 知识库不是不会回答，而是它根本没有把该找的资料找全。

知识库答不准的 5 个原因

二、知识库答不准，最常见有 5 个原因

1. 文档解析一开始就错了

很多企业资料不是干净的纯文本，而是各种复杂格式：

PDF 扫描件、Word 文档、Excel 表格、PPT、图片、合同、报告、标准文件。

这些文件进入知识库之前，要先被系统解析成文本。

问题就在这里。

如果 PDF 是扫描件，OCR 识别错了，后面再强的模型也只能基于错资料回答。

如果 Excel 里有合并单元格，系统没有处理好，原本属于同一个大类的数据，可能在解析后变成一堆失去上下文的碎片。

如果 Word 里的标题层级丢了，AI 看到的就不再是一份结构清楚的文档，而是一堆散落的句子。

这就像你让一个人读书，但书页被撕乱了、目录被删了、表格被拍扁了。

他当然很难答准。

所以，AI 知识库的第一步不是上传资料，而是：

先保证资料被正确解析。

2. 文档被切得太碎，关键上下文丢了

很多知识库会把文档切成一小块一小块，方便检索。

这个动作叫“分块”。

分块本身没错，但切不好就会出大问题。

比如一份标准文件里有这样的结构：

第五章等级划分

5.9 九级标准

5.9.2 具体条款

第 23 项：……

如果系统只把“第 23 项”单独切出来，却没有带上前面的“九级标准”，AI 就不知道这条内容到底属于哪一级。

结果用户问：

“这个情况属于几级？”

AI 可能会答错，因为它看到的是孤立片段，不是完整语境。

所以好的知识库，不应该只切正文，还要把标题路径带进去。

也就是说，每个片段最好都知道自己属于哪份文档、哪个章节、哪个层级。

这就像你从书里摘一句话，不只要摘正文，还要告诉别人：

这句话出自哪本书、哪一章、哪一节。

3. 检索只会找“相似”，不会顺着线索继续查

传统 RAG 最擅长的是找“看起来相关”的内容。

但很多真实问题不是简单匹配，而是多步推理。

比如：

“去年批复的那个项目，后来变更金额是多少？”

“某个供应商影响了哪些下游产品？”

“某个会议里提到的问题，后来在哪份整改材料里解决了？”

这类问题不是找一个关键词就能解决。

它需要先找到一个线索，再顺着这个线索继续找下一个线索。

普通 RAG 很容易停在第一步或第二步。

所以现在才会出现 GraphRAG、SAG、Agentic RAG 这些新方案。

它们本质上都在解决一个问题：

AI 不应该只找相似内容，还要能把事件、实体和关系串起来。

4. 旧资料和新资料混在一起

企业知识库还有一个很隐蔽的问题：资料会不断更新。

制度会改版，合同会补充，产品文档会迭代，标准会更新。

如果知识库只会新增资料，不会识别旧资料是否该删除，就会出现一个很危险的情况：

新答案和旧答案同时被召回。

AI 看到两份内容都像真的，就可能把旧内容当成最新依据。

对用户来说，最不能接受的不是 AI 回答慢，而是 AI 引用了过期资料。

所以真正可用的知识库，一定要有增量更新、版本管理、删除机制和可追溯记录。

简单说：

知识库不是一次性上传完就结束，而是一个持续维护的数据系统。

5. 没有评测，就不知道到底哪里错了

很多人调知识库，都是凭感觉。

今天改一下 chunk 大小；

明天换一个 embedding 模型；

后天调一下相似度阈值；

再后来加一个 rerank。

看起来一直在优化，实际上可能越调越乱。

真正做知识库，一定要有评测题。

比如准备 20 到 50 个典型问题，每个问题都标注：

·正确答案是什么；

·应该命中哪份文档；

·是否允许回答不知道；

·是否涉及版本；

·是否需要跨文档推理。

这样每次调整后，才能知道效果到底变好了，还是只是某一道题看起来变好了。

没有评测，知识库调优就很容易变成玄学。

普通人做知识库的 5 步

三、普通人做 AI 知识库，应该先做好这 5 步

如果你不是技术团队，只是想给自己、团队或公司搭一个能用的知识库，我建议先不要急着上复杂架构。

你先把下面这 5 步做好。

第一步：先整理资料，而不是直接上传

不要把所有资料一股脑丢进去。

先分成几类：

制度类

产品类

项目类

会议类

合同类

客户问题类

操作手册类

每一类资料最好单独建库。

因为不同类型的资料，回答方式不一样。

员工制度要准确；

会议纪要要能追踪；

产品文档要版本清楚；

客户 FAQ 要简短直接；

合同条款要谨慎引用。

资料混在一起，AI 就容易混着答。

第二步：给资料加上基础标签

每份资料至少要有这些信息：

资料名称

资料类型

版本

发布时间

适用范围

是否有效

负责人

来源链接或文件路径

这一步看起来很土，但非常重要。

因为 AI 答案不只是要“看起来对”，还要知道依据来自哪里。

第三步：优先处理 PDF 和 Excel

如果你的资料里有大量 PDF 和 Excel，一定要重点检查。

PDF 要看文字有没有识别错；

Excel 要看合并单元格有没有丢；

表格里的分类、编号、金额、日期有没有被保留下来。

很多知识库效果差，就是因为这些结构化信息一开始就丢了。

第四步：问题要按场景设计

不要只测试这种简单问题：

“请总结这份文档。”

更应该测试真实场景问题：

这个条款适用于什么情况？

这个项目对应哪个批复文件？

某个术语在不同文件里是否有不同解释？

2024 版和 2025 版有什么区别？

这个结论的依据来自哪份资料？

这些问题才能检验知识库是否真的可用。

第五步：让 AI 必须引用依据

好的知识库回答，不应该只给结论。

它最好能告诉你：

答案是什么；

依据来自哪份文档；

具体引用了哪一段；

如果资料不足，要明确说不知道。

这一步能显著减少幻觉。

因为 AI 一旦必须给依据，它就不容易胡编。

四、AI 知识库真正的门槛，不是 AI，而是知识整理

很多人以为 AI 知识库的核心是模型。

但实际落地时，真正决定效果的往往是这些“脏活”：

·文档有没有解析干净；

·表格有没有保留结构；

·分块有没有带上下文；

·检索范围有没有控制；

·版本有没有管理；

·是否有评测题；

·是否允许 AI 承认不知道。

这些事情不酷，但非常关键。

AI 知识库不是把资料上传进去就完了。

它更像是给你的知识做一次重新装修：

原来资料散落在文件夹里；

现在要变成可检索、可追溯、可更新、可回答的知识系统。

五、最后说一句

如果你现在也想做 AI 知识库，不要一开始就追求“最强工具”。

先问自己 3 个问题：

我的资料干净吗？

我的问题明确吗？

我的答案能追溯吗？

这三个问题，比你用哪个模型、哪个向量库、哪个平台更重要。

因为 AI 再强，也只能基于你给它的资料工作。

资料乱，它就乱答；

资料碎，它就漏答；

资料旧，它就错答；

资料没依据，它就可能编。

所以，AI 知识库的第一原则是：

不是让 AI 记住更多，而是让资料变得更可靠。

当你的资料整理好了，AI 才真的有机会变成你的知识助手。