别再只会向量检索！16 个 RAG 高阶玩法曝光（上）

推荐语

RAG技术进阶指南：8个高阶玩法助你突破向量检索局限，打造更智能的知识问答系统。

核心内容：
1. 从基础文本切块到语义切块的进阶检索策略
2. 混合检索与重排序技术的实战应用
3. 多模态RAG系统的最新实现方案

杨芳贤

53AI创始人/腾讯云(TVP)最具价值专家

RAG = “外挂知识库 + 动态提示”，让大模型实时查资料再回答，解决幻觉和知识过期。我把压箱底的 16 个 RAG 杀招一次性掏出来！上半部先讲 8 个，覆盖向量召回、混合检索、重排序、多模态等最新套路。

01简单切块 

通过简单的文本分块和相似度匹配来查找相关内容。具体的步骤如下：

①准备原始文档

北京是中国的首都，有着悠久的历史和丰富的文化。北京有很多著名的景点，比如故宫、天安门广场、颐和园和长城，故宫是明清两代皇帝居住的地方，非常宏伟壮观，颐和园是一座皇家园林，风优美。长城是中国古代伟大的建筑之一，吸引着世界各地的游客。

②将文档按句子拆分(文本分块)

1.北京是中国的首都，有着悠久的历史和丰富的文化

2.北京有很多著名的景点，比如故宫、天安门广场、颐和园和长城

3.故宫是明清两代皇帝居住的地方，非常宏伟壮观

4.颐和园是一座皇家园林，风景优美

5.长城是中国古代伟大的建筑之一，吸引着世界各地的游客

③用户提问

北京有什么著名的景点?

④相似度匹配(检索)

在知识库中找到与问题最相关的句子：可以使用简单的相似度方法(如余弦相似度 +向量化)，或者关键词匹配来找相关句子；在这个例子中，第 2句 是我们检索到的内容最直接地回答了问题:

2.北京有很多著名的景点，比如故宫、天安门广场、颐和园和长城

⑤生成答案

把检索到的相关内容作为上下文输入给语言横型，让它结合这个信息来生成答案。

输入给语言模型的内容:

问题:北京有什么著名的景点?

相关信息: 北京有很多著名的展点，比如故官、天安门广场、顾和园和长城

语言模型输出的答案:

北京有许多著名的景点，包括故宫、天安门广场、颐和园和长城，这些地方不仅具有深厚的历史文化底蕴，也吸引了大量国内外游客前来参观。

02语义切块 

不是按照语句进行切块，而是基于语义进行文本分块，而不是简单地按固定长度或句子数量拆分。这样能更好地保持信息的完整性和相关性。具体的步骤如下：

①准备原始文档

北京是中国的首都，有着悠久的历史和丰富的文化。北京有很多著名的景点，比如故宫、天安门广场、颐和园和长城，故宫是明清两代皇帝居住的地方，非常宏伟壮观，颐和园是一座皇家园林，风优美。长城是中国古代伟大的建筑之一，吸引着世界各地的游客。

②将文档按语义切块

chunk1: 北京是中国的首都，有着悠久的历史和丰富的文化。北京有很多著名的景点，比如故宫、天安门广场、颐和园和长城

chunck2:故宫是明清两代皇帝居住的地方，非常宏伟壮观，颐和园是一座皇家园林，风优美。长城是中国古代伟大的建筑之一，吸引着世界各地的游客

③用户提问

北京有什么著名的景点?

④相似度匹配(检索)

在知识库中找到与问题最相关的句子：可以使用简单的相似度方法(如余弦相似度 +向量化)，或者关键词匹配来找相关句子。

在这个例子中，chunck1 是我们检索到的内容最直接地回答了问题:

chunck1:北京是中国的首都，有着悠久的历史和丰富的文化。北京有很多著名的景点，比如故宫、天安门广场、颐和园和长城

⑤生成答案

把检索到的相关内容作为上下文输入给语言横型，让它结合这个信息来生成答案。

输入给语言模型的内容:

问题:北京有什么著名的景点?

相关信息: 北京是中国的首都，有着悠久的历史和丰富的文化。北京有很多著名的景点，比如故宫、天安门广场、颐和园和长城

语言模型输出的答案:

北京是中国的首都，有着悠久的历史和丰富的文化。北京有许多著名的景点，包括故宫、天安门广场、颐和园和长城，这些地方不仅具有深厚的历史文化底蕴，也吸引了大量国内外游客前来参观。

03上下文增强检索 

在检索过程中，除了返回最匹配的 chunk，还同时返回其前后的相邻 chunk，以提供更丰富的上下文信息。

①假设我们有如下三个 chunk:

Chunk 1:

北京是中国的首都，有着悠久的历史和丰富的文化。北京有很多著名的景点，比如故宫、天安门广场、颐和园和长城

Chunk 2:

故宫是明清两代皇帝居住的地方，非常宏伟壮观

Chunk 3:

颐和园是一座皇家园林，风景优美。长城是中国古代伟大的建筑之一，吸引着世界各地的游客。

②用户查询关键词:故宫

最匹配 ： Chunk 2

同时返回: Chunk1+Chunk 2+Chunk 3

③返回给模型上下文：

Chunk 1:

北京是中国的首都，有着悠久的历史和丰富的文化。北京有很多著名的景点，比如故宫、天安门广场、颐和园和长城

Chunk 2:

故宫是明清两代皇帝居住的地方，非常宏伟壮观

Chunk 3:

颐和园是一座皇家园林

04上下文分块标题 

为每一个文本块(chunk)添加一个简洁、描述性强的标题，用于概括该 chunk 的核心内容。这个标题作为额外的元信息，在检索时可作为关键词或语义线索使用。

作用：

增强 chunk 的可检索性提供更丰富的语义提示提高检索系统的匹配准确率

05文档增强 

在构建高质量的检索增强生成系统(RAG)时，一个常见的挑战是:如何在用户提问方式多样、关键词不一致的情况下，仍能准确地找到相关知识?

答案：

在原始文档的基础上，自动生成与其内容相关的**问题·答案对*“或**潜在查询语句**，并将这些”虚拟查询”作为额外的检索入口加入到知识库中。

目的：

提高系统对不同表达方式的鲁棒性;

扩展检索入口，提升匹配准确率;

增强模型对上下文的理解能力。

例如：

原文：

北京是中国的首都，有着悠久的历史和丰富的文化。北京有很多著名的景点，比如故宫、天安门广场、颐和园和长城。故宫是明清两代皇帝居住的地方，非常宏伟壮观。颐和园是一座皇家园林，风景优美。长城是中国古代伟大的建筑之一，吸引着世界各地的游客

对应chunck：

故宫是明清两代皇帝居住的地方，非常宏伟壮观

使用语言模型生成附加问题：

故宫的历史背景是什么?故宫在哪个朝代被使用?明清时期的皇家在哪里?故宫有什么特色?故宫为什么著名?

加入到检索索引中：

这样，检索其可以从多个角度理解用户的意图，提高召回率和准确性。

06查询转换 

在进行知识库检索前，对用户的原始查询进行语义理解、扩展、重写或多样化处理，以生成更适合匹配知识库内容的查询形式。

目的：

提高检索器的召回率和准确率增强模型对模糊提问、口语化表达的理解能力拓展多种检索路径，应对不同表达方式

查询转换的主要类型：

举个例子：

①用户提问：

故宫以前是谁住的？

经过Query Expansion(查询扩展)后的版本：

07重排序 

在初步检索出 Top-K 个候选 chunk 后，使用更精细的语义模型对这些候选进行重新打分和排序，以提升最相关

内容的排名。确保最匹配的内容放在第一位。

目的：

提高最终召回内容的相关性弥补向量相似度排序的局限性增强问答系统的准确率和用户体验

举个例子：

①用户提问：

故宫有什么特点？

加入Reranker后的结果(最相关的信息提升到第一位)：

08重语义扩展重排序RSE 

在构建高质量的检索增强生成系统(RAG)时，我们常常面临一个挑战:

相关信息往往不是孤立存在于某个 chunk 中，而是**分布在多个连续或上下文相关的段落中**

为了解决这个问题，我们引入一种更高级的检索优化策略:

RSE 是一种结合向量检索、语义相似度分析与上下文连贯性判断的检索增强技术。

它不仅关注单个 chunk 的相关性，还通过“向下查找”机制，寻找与其语义连贯的相邻片段，形成更完整的上下文。

RSE整体流程：

①固定切分&向量化入库

将原始文档按固定长度(如 256token)进行切块，并将每个 chunk 存入向量数据库(如 FAISS/Milvus/Pinecone)

②初步检索&过滤高相似度片段

用户输入查询后，使用向量数据库返回 Top-K个最相似的 chunks，并设置一个**初始相似度阈值**(如 0.6)，过滤掉低相关性内容.

③基于上下文窗口的连续片段查找

对于每一个高相似度 chunk，向下查找其后续若干个 chunk(如 +2 或-1~ +2 的窗口)，组成一个”候选上下文组”。

④计算上下文组的总相似度得分

对每个上下文组中的 chunk 进行加权求和(可设权重递减)，并设定一个总相似度值(如 1.8)，用于筛选最终保留的上下文组。

⑤返回最终上下文组作为生成依据

将满足条件的上下文组合并成一段完整的文本，作为语言型的输入上下文，用于生成最终答案。

例如：

北京有很多著名景点，比如故宫、天安门广场、颐和园和长城故宫是明清两代皇帝居住的地方，非常宏伟壮观。颐和园是一座皇家园林，风景优美。

未完待续~~~~