我要投稿

苹果超级加持RAG技术，93倍加速推理

发布日期：2024-08-28 12:46:33 浏览次数： 2321

作者：AGI Hunt

微信搜一搜，关注“AGI Hunt”

苹果又来放大招了！

这次他们搞出了个叫"超位提示"的新技术，简直就是给RAG装上了光速引擎。

不知道大家还记不记得前阵子OpenAI那个GPT-4o mini？能力“据说”接近GPT-4，但价格却大幅下降。

这不，苹果看不下去了，直接祭出大杀器：超位提示（Superposition prompting）。

这玩意儿有多牛？用在MPT-7B模型上，在NaturalQuestions-Open数据集上的计算时间直接缩短了93倍！

看到这个数字，我都怀疑是不是写错了，结果仔细一查还真没错。

这简直是AI界的光速引擎啊！再这么搞下去，以后问AI问题是不是连眨眼的时间都不用了？

让我们来看看这个"超位提示"到底是个啥东西。

简单来说，它是一种新的RAG（检索增强生成）方法，专门为那些基于transformer的预训练大语言模型设计的。

跟传统的"链表式"DAG（有向无环图）不同，超位提示采用了一种叫"ForkJoin拓扑"的结构，可以并行处理输入文档。

这么做有什么好处呢？

并行处理：多个文档可以同时被处理，大大提高了效率。
路径剪枝：用贝叶斯显著性评分来剔除无关路径，既提高了准确性又提升了效率。
平衡位置分配：优化了token的位置分配，让模型表现更佳。
路径缓存和并行化：进一步加速了推理过程。

有细心网友发现：

"等等，这不就是把GPU的并行计算思路搬到了NLP领域吗？苹果这波操作可以啊！"

确实如此。而且更厉害的是，它还能进行迭代超位，这让模型在多跳推理任务上的表现也有了显著提升。

那效果如何呢？

据研究团队透露，在相同的数据集上，准确率提高了43%。不仅如此，它还超越了像Naive LLM-RAG、BM-25、TF-IDF和Contriever这样的基线方法。

更令人惊讶的是，这个方法在各种规模和架构的模型上都表现出色，包括OpenELM、BLOOMZ和MPT。

此外，研究团队表示，在MuSiQue数据集上的测试显示，超位提示在多跳推理任务上的表现反而有所提升。

苹果这次的"超位提示"技术不仅大幅提升了处理速度，还在一定程度上提高了准确性，可以说是一石二鸟。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-12-21

Cohere 推出 Rerank 4，将上下文窗口从 8K 扩展至 32K，以交叉编码器架构强化长文档语义理解与跨段落关联捕捉

2025-12-21

4.1K Star！GitHub 上挖到一个救星级别的 RAG 数据流水线项目！

2025-12-20

PageIndex：一种基于推理的 RAG 框架

2025-12-20

深度解析丨智能体架构，利用文件系统重塑上下文工程

2025-12-20

RAG 答非所问？可能是你少了这一步：深度解析 Rerank 与 Cross-Encoder 的“降维打击”

2025-12-18

从 RAG 到 Context：2025 年 RAG 技术年终总结

2025-12-17

embedding分数不是唯一解！搜索场景，如何根据元数据做加权rerank

2025-12-17

企业AI真瓶颈：不在模型，而在语境！

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

Embedding与Rerank：90%的RAG系统都搞错了！为什么单靠向量检索会毁了你的AI应用？

2025-10-04

企业级 RAG 系统实战（2万+文档）：10 个项目踩过的坑（附代码工程示例）

2025-10-11

存算一体破局向量检索瓶颈，IBM放出王炸VSM：性能飙升100倍，能效碾压GPU千倍，RAG要变天？

2025-09-30

总结了 13 个顶级 RAG 技术

2025-10-12

RAG 深度解读：检索增强生成如何改变人工智能

2025-12-04

大模型生态的“不可能三角”：规模化应用的架构困境？

2025-11-04

RAGFlow 深度介绍

2025-10-31

RAGFlow v0.22.0 发布：数据源同步、变量聚合、全新管理界面与多项重大更新

2025-11-13

任何格式RAG数据实现秒级转换！彻底解决RAG系统中最令人头疼的数据准备环节

2025-10-12

大模型RAG入门宝典｜从AI搜索到实战搭建，小白&程序员必收藏的检索增强指南

2025-12-03

大家都在问

Apple 入局 RAG：深度解析 CLaRa 框架，如何实现 128x 文档语义压缩？

2025-12-10

RAG知识库迎来大洗牌：GraphRAG如何让机器真正读懂世界？

2025-11-23

再谈RAG的文档解析——文档解析的难点在哪里？

2025-11-20

为什么RDF是AI系统的“天然知识层”？

2025-11-19

大模型生态的“不可能三角”：规模化应用的架构困境？

2025-11-04

Embedding与Rerank：90%的RAG系统都搞错了！为什么单靠向量检索会毁了你的AI应用？

2025-10-04

存算一体破局向量检索瓶颈，IBM放出王炸VSM：性能飙升100倍，能效碾压GPU千倍，RAG要变天？

2025-09-30

您应该为您的 RAG 系统使用哪种分块技术？

2025-09-10

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB