我要投稿

大模型RAG的下一形态，MAG

发布日期：2024-09-10 21:25:49 浏览次数： 2615

作者：NLP前沿

微信搜一搜，关注“NLP前沿”

LLMs在处理长文本时，因为注意力机制二次时间和空间复杂度的问题，所以处理长文本时的内存消耗和计算成本有点恐怖。检索增强生成RAG自然就成了一个工业界成熟的解决方案，MemLong是一个新的解决方案，跟之前有些产品提到的RAG2.0有点类似（RAG 2.0有无数个版本~）。

整体上来看，他跟RAG的对比图如下，主要是通过存储过去的上下文和知识在一个记忆库中，利用这些存储的信息来检索（K-V and embedding pairs），来达到扩展了模型的上下文窗口的目的。

与标准语言建模目标相比，还会利用外部检索获取相关信息，并在模型的上层进行知识融合。

整体架构图如下

存储：文本 -> 块 -> 低层clm编码 -> 记忆存储
检索：给定一个新生成的文本块，检索与当前上下文最相关的过去信息

上层的注意力机制修改，将传统的多头注意力扩展到联合注意力机制，使每个token能够同时关注局部上下文和块级过去上下文

在多个长文本语言建模基准上进行了评估，显示出比其他最先进的LLMs更好的性能。它在单个GPU上能够将上下文长度从4k扩展到80k，大幅提高了模型在长文本任务中的性能。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-05-18

别再错过啦，AI Agent记忆革命：95.2%检索率的持久记忆系统深度解析

2026-05-18

有多少人把Agent与RAG的检索策略，简化成了 if-else？

2026-05-18

RAG 全链路技术详解

2026-05-18

捅破个人AI天花板！YC总裁开源GBrain：8层架构打造AI第二大脑，解决记忆难题，狂揽 1.6w Star！网友：第六层才是护城河！

2026-05-16

RAG 在企业的落地，从来不是一个“大模型问题”

2026-05-14

2026年知识库幻觉根治指南：从 Naive RAG 到 Agentic RAG

2026-05-11

到底是谁会相信RAG已死啊？

2026-05-11

RAG又进化了！微软整了个企业级AgenticRAG

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

知识基座：让“AI 越用越懂业务”的团队经验实践【天猫AI Coding实践系列】

2026-03-23

全网爆火的大模型AI知识库，保姆级教程来了

2026-04-06

不用向量数据库的 RAG，居然跑得更准了？

2026-02-22

从RAG到GraphRAG：货拉拉元数据检索应用实践

2026-03-18

为什么总感觉 Claude Code 比 Cursor 聪明？真正的原因根本不是模型能力！

2026-03-20

如何用 AI 做业务级 Code Review

2026-02-27

Claude Code 每次都要重新探索代码？这个工具直接省下30%成本

2026-02-21

面向手机Agent的记忆系统工程:OPPO的Agentic-RAG实战与演进

2026-03-21

OpenDataLoader：PDF文档提取的一站式方案

2026-03-31

Karpathy的LLM Wiki + 3.5 万Star的Graphify：企业级 RAG 缺的真是知识图谱？

2026-04-27

大家都在问

有多少人把Agent与RAG的检索策略，简化成了 if-else？

2026-05-18

到底是谁会相信RAG已死啊？

2026-05-11

1G内存检索2500万向量，Milvus中如何用FLAT在强标量过滤场景搞定毫秒响应？

2026-05-07

多Agent场景，子agent 之间数据读写不同步，如何解决？

2026-05-06

Karpathy的LLM Wiki + 3.5 万Star的Graphify：企业级 RAG 缺的真是知识图谱？

2026-04-27

多轮对话时，RAG反复做重复召回，模型层与Milvus层分别如何解决？

2026-04-21

企业AI落地三重门，用友如何破局？

2026-03-17

Embedding相似度虚高，如何用langchain+Milvus搭建CRAG解决？

2026-03-11

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean Openclaw

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部