我要投稿

RAG微调Llama 3竟超越GPT-4！英伟达GaTech华人学者提出RankRAG框架

发布日期：2024-07-10 06:18:31 浏览次数： 2989

作者：新智元

微信搜一搜，关注“新智元”

在需要大量事实知识的文本生成任务中，RAG成为了常用的LLM部署技巧。

但佐治亚理工学院和英伟达最近发表的一篇论文提出——RAG可以不止停留在用于推理的pipeline中，类似的思路完全可以移植到微调阶段，于是有了这个名为RankRAG的框架。

论文地址：https://arxiv.org/abs/2407.02485

他们的思路可以概括为：用微调拓展模型的能力，把原来RAG需要额外模型的检索、排名任务全丢回给LLM自己。

结果发现，不仅数据效率提高了，模型性能也有显著增强，相比今年5月刚提出的ChatQA-1.5系列有显著优势。

在9个通用基准和5个生物医学的知识密集型基准上，RankRAG用Llama 3 8B/70B微调出的模型分别超过了同样基座上ChatQA-1.5的两个微调模型，Llama3-ChatQA-1.5-8B和Llama3-ChatQA-1.5-70B。

ChatQA-1.5项目地址：https://chatqa-project.github.io/

检索增强生成技术，简称为RAG（Retrieval-Augmented Generation），被广泛适用于LLM的定制化，尤其是知识密集型的NLP任务。可以帮助模型在不改变权重的情况下掌握「长尾知识」和最新信息，并适应到特定的领域。

通常情况下，RAG的工作流程大致是：对于给定问题，由一个基于文本编码的稠密模型从外部数据库中检索到top-k个文本段，然后输入给LLM进行读取，以此为基础进行生成。

来源：AWS

这个pipeline看起来非常符合直觉，也已经被广泛使用，但作者在论文开篇指出了其中的固有局限，首先就是k值的选择。

如果k值较大（比如top-100），即使是支持长上下文的窗口的LLM也很难快速读取这么多文本块。随着k值的增大，性能会很快饱和。

除了效率原因，之前还有研究表明，k值在5或10这个量级时，生成结果的准确性更高。因为过多上下文会引入不相关内容，妨碍LLM生成准确答案，

《Retrieval meets Long Context Large Language Models》https://arxiv.org/abs/2310.03025

那把k值就定在这个区间不行吗？

如果给定一个较小的k，我们需要一种机制来保证检索结果的高召回率（recall）。

鉴于检索器的表达能力有限（通常是稀疏检索模型如BM25，或中等大小的编码模型如BERT-based），通常无法捕获所有相关信息，因此实际的应用过程还会加上一个交叉编码（cross-encoding）的排名模型。

排名模型从数据库中检索到top-N个候选 (N ≫ k)，再经过一次排名得到最终top-k结果。

这种方案的缺陷在于，与通用的LLM本身相比，专家排名模型的零样本泛化能力相对有限，上游检索结果的质量很可能造成下游LLM生成任务的瓶颈。这在许多实证研究中都得到了验证。

基于上述考虑，作者认为可以只使用LLM同时完成上下文检索和内容生成任务，通过设计RAG的指令调优来实现，这种新颖的框架被命名为RankRAG。

OpenAI的GPT-4报告中就发现，检索、排名过程中发展出的「确定文本块与问题是否相关」的能力对答案的生成同样有用，这两者可以被视为「双重能力」。

RankRAG在训练过程中引入了一项带指令的问答任务，让模型能够识别出与问题相关的上下文或段落，便于在推理时对检索结果进行排名。

如果将一部分排名数据集成到指令微调中，还能大大增强LLM在RAG排名任务中的性能，甚至超过了单独用LLM和10×排名数据进行微调的结果。

RankRAG微调框架

在推理阶段，RankRAG的pipeline与上述的的「检索-排名-生成」流程几乎相同，首先检索出带有相关性分数的top-N结果，然后进行重新排名并保留top-k段落，将其与问题连接到一起进行生成。

主要的不同点在于模型训练过程，使用了两个阶段的指令微调（图2）直接增强LLM的相关能力，而不是在模型外部添加额外操作。

第一阶段首先进行监督微调（SFT），128k个样例来自多个数据集的混合，包括对话数据集SODA、Dolly、OpenAssistant，长格式QA数据集ELI5（需要详细答案），LLM合成的指令，以及CoT数据集FLAN。

这个阶段的SFT主要是为了提高LLM的指令跟随能力，虽然与RAG关系不大，但可以为接下来的指令微调过程做好铺垫。

为了提升LLM的检索、排名性能，第二阶段的微调数据集由以下几个部分混合组成（表1）：

第一阶段的SFT数据：用于维持指令跟随能力
上下文丰富的QA数据：涵盖了DROP、NarrativeQA、Quoref、ROPES、NewsQA、TAT-QA等数据集，每条数据包含问题、黄金上下文（golden context）和答案
会话QA数据集：如Synthetic Conversation和HumanAnnotatedConvQA，同时包括对话内容以及一份背景文档
检索增强的QA数据：不仅包括SQuAD和WebQuestions中的问题和答案，还用BM25将黄金上下文和检索到的top结果组合起来，确保每条数据都有5个上下文，其中有些上下文可能不包括问题答案，甚至是hard-negative，这是为了重点提高LLM对不相关上下文的鲁棒性
上下文排名数据：使用流行的MS Marco语义相关性数据集，将其中的黄金样本视为相关的查询-段落对 (?,?+)，BM25挖掘的hard negtive (?,?−)则被视为不相关，让LLM对这些样本的相关性进行二元分类（True或False）
检索增强的排名数据：同样使用QA数据集SQuAD和WebQuestions，以及BM25检索到的上下文，训练LLM的对相关性进行排名的能力

实验

表2展示了RankRAG与基线模型的对比结果：

- 优于现有的RAG方法

可以看到，在8B的参数规模上，RankRAG始终优于当前的开源SOTA——ChatQA-1.5 8B。

与更大的模型相比，RankRAG 8B依然显著优于InstructRetro（5倍参数量）、RA-DIT 65B（8倍参数量），甚至在NQ和TriviaQA任务中超越了参数多达8倍的Llama3-instruct 70B。

在增加模型参数后，RankRAG 70B的表现不仅优于强大的ChatQA-1.5 70B模型，并且还显著优于之前以InstructGPT为底层大语言模型的RAG基线。

- 在更具挑战性的数据集上表现出更大的改进

相对于基线模型的性能提升，RankRAG在更具挑战性的QA数据集上更加明显。例如，在长尾QA（PopQA）和多跳QA（2WikimQA）任务中，RankRAG比ChatQA-1.5提高了10%以上。

这些发现表明，在具有挑战性的OpenQA数据集中，检索器中的顶级文档与答案的相关性较低，而上下文排名能有效提高性能。

消融研究

- 设计组件的效果

表3展示了以Llama3 8B为骨干的RankRAG，在九个通用领域数据集上的消融结果。总体来看，所有的新组件都对最终性能有所贡献。

- 不同大语言模型的性能表现

表4展示了RankRAG和最新基线ChatQA，在使用不同参数量的Llama2作为骨干时的性能表现。

可以看到，RankRAG在各种类型和规模下，性能都有提升——分别在7B/13B/70B变体上提高了7.8%/6.4%/6.3%。

- 不同检索器的性能表现

图3展示了RankRAG和ChatQA-1.5在三项代表性任务中，使用不同密集检索器（DPR和Contriever-MS MARCO）的性能。

尽管初始检索结果并不理想，但RankRAG在平均性能上仍然比ChatQA-1.5高出10%以上。

总的来说，RankRAG在选择检索器方面表现出很强的鲁棒性。

特定领域的RAG基准

为了证明RankRAG在专业领域的适应性，作者在最新的生物医学RAG基准Mirage上进行了实验。

其中，MedCPT作为检索器ℛ，MedCorp2作为语料库?。

从表5中可以看出，即使没有进行过微调，RankRAG依然可以在医学问答任务上有着出色的表现——

不仅在8B的规模下部分超越了医学领域的开源SOTA Meditron 70B，而且在70B的规模下达到了GPT-4超过98%的性能。

排名模块

- RankRAG具有高数据效率

如表6所示，相比于在10倍数据上训练的专用排名模型，RankRAG在大部分情况下都取得了更好的召回率。

甚至，RankRAG还能在大多数任务中超越BGE-ranker，要知道后者曾在超过100万对排名数据上进行了广泛的训练，其中还包括一些与评估任务重叠的排名对。

值得注意的是，直接使用ChatQA-1.5对段落进行排名会降低性能，这表明在指令微调中加入排名数据的很有必要的。

如图4所示，仅使用5k排名数据（约占MS MARCO数据集的1%），RankRAG即可获得极佳的结果，而将排名数据增加到50k更是带来了显著的增益。

这一发现证实了RankRAG的数据效率——只需少量排名数据就能实现有效性能，并能在各种任务中保持适应性。

- RankRAG的性能与时间效率

随着模型规模的扩大，不仅延迟开销会增加，逐样本排名的时间开销也会增大。

为了研究时间效率与性能之间的关系，作者改变了重新排名中使用的N，并在图5中绘制了N与最终准确率的关系。

可以看到，即使N=20，RankRAG仍然比不进行重新排名的基准模型有所改进。

此外，当N从20逐渐增加100时，重新排名将精确匹配分数提高了5.9%到9.1%，并且只额外增加了0.9到6倍的时间——远低于预期的20到100倍的预期增长。

案例研究

表7展示了NQ数据集上的一个案例。

可以看到，由于存在干扰因素，而且一些上下文（例如，ChatQA-1.5的段落4和段落5）对回答问题没有帮助，因此只用检索器的话会导致上下文中出现错误信息。

相比之下，重新排名技术则发现了另外两个相关的段落，从而帮助模型给出了正确的答案。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-02-04

Claude Cowork 真能替换 RAG ？

2026-02-03

使用 Agent Skills 做知识库检索，能比传统 RAG 效果更好吗？

2026-02-03

告别向量数据库！PageIndex：让AI像人类专家一样阅读长文档

2026-02-02

OpenViking：面向 Agent 的上下文数据库

2026-02-02

别再迷信向量数据库了，RAG 的“大力出奇迹”该结束了

2026-01-29

告别黑盒开发！清华系团队开源 UltraRAG：用“搭积木”的方式构建复杂 RAG 流程

2026-01-28

RAG优化不抓瞎！Milvus检索可视化，帮你快速定位嵌入、切块、索引哪有问题

2026-01-28

今天，分享Clawdbot记忆系统最佳工程实践

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

RAG 深度解读：检索增强生成如何改变人工智能

2025-12-04

大模型RAG入门宝典｜从AI搜索到实战搭建，小白&程序员必收藏的检索增强指南

2025-12-03

RAGFlow v0.22.0 发布：数据源同步、变量聚合、全新管理界面与多项重大更新

2025-11-13

企业级 AI Agent规模化落地的避坑指南，就藏在这四大趋势里

2025-12-02

5步构建企业级RAG应用：Dify与LangChain v1.0集成实战

2025-11-13

2026 年你需要了解的 RAG 全解析

2026-01-15

Embedding模型选型思路：相似度高不再代表检索准确（文末附实战指南）

2025-12-07

如何用NotebookLM，把枯燥的财报解读成精美的PPT？

2026-01-02

为什么Claude Code不用RAG？

2025-12-23

从 RAG 到 Context：2025 年 RAG 技术年终总结

2025-12-18

大家都在问

Claude Cowork 真能替换 RAG ？

2026-02-04

使用 Agent Skills 做知识库检索，能比传统 RAG 效果更好吗？

2026-02-03

为什么 RAG 越用越慢？如何反向调优？

2026-01-19

NotebookLM如何在48小时内分析2万份论文？

2026-01-12

都有混合检索与智能路由了，谁还在给RAG赛博哭坟？

2026-01-08

如何用NotebookLM，把枯燥的财报解读成精美的PPT？

2026-01-02

为什么Claude Code不用RAG？

2025-12-23

终于，NotebookLM 和 Gemini 合体了。这是什么神之更新？

2025-12-21

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean