我要投稿

Multi-Head RAG：复杂问题的RAG召回方案

发布日期：2024-08-11 04:33:03 浏览次数： 2735

作者：NLP前沿

微信搜一搜，关注“NLP前沿”

这个工作要解决个什么问题呢？ RAG 得流程是通过将文档召回，放入LLM的上下文中，来提供更准确和相关的答案。但是现有的 RAG 解决方案可能比较难处理，召回的内容来自完全不同的文档，因为这些文档在语义空间中可能很远，很难将它们全部检索出来。

论文中有张图如下图，正常的RAG在遇到query有点复杂的时候，在召回的时候就很麻烦。如果是纯粹的绿点主题或者黄点主题那都没太大问题。但是如果是复杂的多主题的，到向量空间之后就不好召回了。

那咋整呢，大概的一个方案就是下图，query被拆解成了多个向量，每个向量比较纯粹，类似于多路召回，总能匹配到需要的chunk。

怎么获取多个向量呢？ MRAG通过使用Transformer的多头注意力层的特征作为向量表征，而不是仅使用取最后解码器层的输出，这样做的动机是不同的注意力头可以学习捕获数据的不同方面。每一层取一个向量，取最后一个位置的。chunks和query都生成多个向量，检索的时候，使用投票策略，结合了不同嵌入空间的重要性得分（根据一层的头内向量空间分布计算的），来选择最相关的文本块，并根据其重要性对检索结果进行加权。

最后结果在召回的相关性方面获得了比较大的提升

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-09-06

给AI装上一个'超级大脑'：信息检索如何改变RAG系统的游戏规则

2025-09-05

别让你的RAG“吃”垃圾数据了！从源头构建高质量知识库的深度文档解析指南

2025-09-05

别再说你的RAG召回率不行，都怪你文档处理的太差——别拿文档处理是难点当借口

2025-09-05

【RAG的16种玩法】反馈闭环、自适应检索增强(中)

2025-09-04

在RAG文档处理中——怎么处理噪音问题

2025-09-04

RAG知识库十大误区和提高准确率示例

2025-09-04

别再只会向量检索！16 个 RAG 高阶玩法曝光（上）

2025-09-03

基于RAG的工业品商品智能推荐

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

RAGFlow实战：如何根据文档类型选择最佳切片策略？

2025-06-20

从0到1落地一个RAG智能客服系统

2025-06-20

RAG彻底爆了！一文读懂其架构演进及核心要点

2025-07-15

详解RAG五种分块策略，技术原理、优劣对比与场景选型之道

2025-06-24

Agentic RAG：下一代智能检索与生成的革命性突破

2025-06-24

Dify智能体开发：RAG 技术深度解析与知识库实战指南

2025-07-16

一文搞懂大模型的RAG（知识库和知识图谱）

2025-06-23

5分钟了解GraphRAG和Mem0

2025-07-09

RAG不好用？试试MCP这个“知识库优化大师”

2025-06-15

鹅厂实习生血泪贴：Agent/RAG黑科技，真相竟是这样！

2025-06-20

大家都在问

DeepMind爆火论文：向量嵌入模型存在数学上限，Scaling laws放缓实锤？

2025-09-03

RAG检索后如何应用更有效？

2025-08-28

一文搞懂大模型：何为深入理解RAG？

2025-08-25

别再往AI的知识库塞奇怪的东西了，什么样的知识适合作为RAG知识库？

2025-08-20

当AI学会“查资料”：RAG如何让智能回答更靠谱？

2025-08-11

响应速度提升300%、检索准确率90%：RAG如何让企业知识“活”起来赚钱？

2025-08-05

长文本放提示词中还是采用 RAG？

2025-07-28

AI大模型落地最后一公里：RAG？

2025-07-09

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： [email protected]

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部