我要投稿

苹果超级加持RAG技术，93倍加速推理

发布日期：2024-08-28 12:46:33 浏览次数： 2168

作者：AGI Hunt

微信搜一搜，关注“AGI Hunt”

苹果又来放大招了！

这次他们搞出了个叫"超位提示"的新技术，简直就是给RAG装上了光速引擎。

不知道大家还记不记得前阵子OpenAI那个GPT-4o mini？能力“据说”接近GPT-4，但价格却大幅下降。

这不，苹果看不下去了，直接祭出大杀器：超位提示（Superposition prompting）。

这玩意儿有多牛？用在MPT-7B模型上，在NaturalQuestions-Open数据集上的计算时间直接缩短了93倍！

看到这个数字，我都怀疑是不是写错了，结果仔细一查还真没错。

这简直是AI界的光速引擎啊！再这么搞下去，以后问AI问题是不是连眨眼的时间都不用了？

让我们来看看这个"超位提示"到底是个啥东西。

简单来说，它是一种新的RAG（检索增强生成）方法，专门为那些基于transformer的预训练大语言模型设计的。

跟传统的"链表式"DAG（有向无环图）不同，超位提示采用了一种叫"ForkJoin拓扑"的结构，可以并行处理输入文档。

这么做有什么好处呢？

并行处理：多个文档可以同时被处理，大大提高了效率。
路径剪枝：用贝叶斯显著性评分来剔除无关路径，既提高了准确性又提升了效率。
平衡位置分配：优化了token的位置分配，让模型表现更佳。
路径缓存和并行化：进一步加速了推理过程。

有细心网友发现：

"等等，这不就是把GPU的并行计算思路搬到了NLP领域吗？苹果这波操作可以啊！"

确实如此。而且更厉害的是，它还能进行迭代超位，这让模型在多跳推理任务上的表现也有了显著提升。

那效果如何呢？

据研究团队透露，在相同的数据集上，准确率提高了43%。不仅如此，它还超越了像Naive LLM-RAG、BM-25、TF-IDF和Contriever这样的基线方法。

更令人惊讶的是，这个方法在各种规模和架构的模型上都表现出色，包括OpenELM、BLOOMZ和MPT。

此外，研究团队表示，在MuSiQue数据集上的测试显示，超位提示在多跳推理任务上的表现反而有所提升。

苹果这次的"超位提示"技术不仅大幅提升了处理速度，还在一定程度上提高了准确性，可以说是一石二鸟。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-09-12

Meta如何给RAG做Context Engineering，让模型上下文增加16倍

2025-09-12

检索器江湖：那些让RAG神功大成的武林绝学

2025-09-12

Dify + Oracle + MCP：轻松构建 RAG 与 MCP Agent 智能应用

2025-09-11

做好 RAG 落地最后环节 —— 评估 RAG 应用

2025-09-10

企业级RAG系统实战心得：来自10多个项目的深度总结

2025-09-10

您应该为您的 RAG 系统使用哪种分块技术？

2025-09-10

关于多模态应用的几个疑问，以及多模态应该怎么应用于RAG？

2025-09-10

MiniMax RAG 技术：从推理、记忆到多模态的演进与优化

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

RAGFlow实战：如何根据文档类型选择最佳切片策略？

2025-06-20

从0到1落地一个RAG智能客服系统

2025-06-20

RAG彻底爆了！一文读懂其架构演进及核心要点

2025-07-15

详解RAG五种分块策略，技术原理、优劣对比与场景选型之道

2025-06-24

Agentic RAG：下一代智能检索与生成的革命性突破

2025-06-24

Dify智能体开发：RAG 技术深度解析与知识库实战指南

2025-07-16

一文搞懂大模型的RAG（知识库和知识图谱）

2025-06-23

5分钟了解GraphRAG和Mem0

2025-07-09

RAG不好用？试试MCP这个“知识库优化大师”

2025-06-15

鹅厂实习生血泪贴：Agent/RAG黑科技，真相竟是这样！

2025-06-20

大家都在问

您应该为您的 RAG 系统使用哪种分块技术？

2025-09-10

关于多模态应用的几个疑问，以及多模态应该怎么应用于RAG？

2025-09-10

DeepMind爆火论文：向量嵌入模型存在数学上限，Scaling laws放缓实锤？

2025-09-03

RAG检索后如何应用更有效？

2025-08-28

一文搞懂大模型：何为深入理解RAG？

2025-08-25

别再往AI的知识库塞奇怪的东西了，什么样的知识适合作为RAG知识库？

2025-08-20

当AI学会“查资料”：RAG如何让智能回答更靠谱？

2025-08-11

响应速度提升300%、检索准确率90%：RAG如何让企业知识“活”起来赚钱？

2025-08-05

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB