我要投稿

OCR噪声直接命中了RAG的软肋~

发布日期：2024-12-16 12:01:44 浏览次数： 2194

作者：PaperAgent

微信搜一搜，关注“PaperAgent”

在RAG系统中，OCR从非结构化的PDF文档的不完美抽取和结构化数据的非统一表示会导致知识库中出现OCR噪声（语义噪声和格式噪声），最终影响RAG系统的性能。

不同级别的语义噪声在纯文本、方程和表格上的示意图，这些都是基于现有的OCR结果进行扰动的。

因此提出并开源OHRBench，评估了当前OCR解决方案在现实世界RAG应用中的适用性：

基于流水线的OCR表现出最佳性能。在所有OCR解决方案中，使用Marker实现了最佳的检索性能，而MinerU在生成和整体评估中占据主导地位。
所有OCR解决方案都遭受了性能下降。即使是最好的解决方案，在整体评估中EM@1下降了1.9，F1@1下降了2.93，而在检索和生成阶段的损失更大。
RAG系统中不使用OCR而直接使用视觉-语言模型（VLMs）的潜力。

OHRBench是一个评估OCR对RAG系统影响的基准测试，包括从六个真实世界的RAG应用领域中精选的350个非结构化PDF文档，以及从文档中多模态元素派生的问答对。

OHRBench的构建与评估协议。(1) 基准数据集：从六个领域收集PDF文档，提取经过人工验证的地面真实结构化数据，并从多模态文档元素生成问答。(2) RAG知识库：用于基准测试当前OCR解决方案的OCR处理结构化数据，以及用于评估不同OCR噪声类型影响的扰动结构化数据。(3) 评估OCR对每个组件以及整个RAG系统的影响。

OHRBench中文档的布局是复杂的，每个数字表示具有该属性的PDF页面数量

用于引导引入语义噪声的真实表格案例之一。左上角是地面真实中的原始表格，右上角是MinerU的OCR结果中的真实示例。左下角和右下角是在以真实示例为指导后对原始表格进行中等和严重扰动的结果。为了更好地展示，手动修改了一些LaTeX代码，以便大部分表格结构能够正常显示。

https://github.com/opendatalab/OHR-BenchOCR Hinders RAG: Evaluating the Cascading Impact of OCR on Retrieval-Augmented Generationhttps://arxiv.org/pdf/2412.02592

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-12-20

深度解析丨智能体架构，利用文件系统重塑上下文工程

2025-12-20

RAG 答非所问？可能是你少了这一步：深度解析 Rerank 与 Cross-Encoder 的“降维打击”

2025-12-18

从 RAG 到 Context：2025 年 RAG 技术年终总结

2025-12-17

embedding分数不是唯一解！搜索场景，如何根据元数据做加权rerank

2025-12-17

企业AI真瓶颈：不在模型，而在语境！

2025-12-17

从 1600+ 份 Word 文档到生产级 RAG：一个工控行业知识库的全链路实战复盘

2025-12-16

短语检索不等于BM25+向量检索｜ Milvus Phrase Match实战

2025-12-16

让AI真正懂数据：猫超Matra项目中的AI知识库建设之路

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

Embedding与Rerank：90%的RAG系统都搞错了！为什么单靠向量检索会毁了你的AI应用？

2025-10-04

企业级 RAG 系统实战（2万+文档）：10 个项目踩过的坑（附代码工程示例）

2025-10-11

存算一体破局向量检索瓶颈，IBM放出王炸VSM：性能飙升100倍，能效碾压GPU千倍，RAG要变天？

2025-09-30

总结了 13 个顶级 RAG 技术

2025-10-12

RAG 深度解读：检索增强生成如何改变人工智能

2025-12-04

大模型生态的“不可能三角”：规模化应用的架构困境？

2025-11-04

RAGFlow 深度介绍

2025-10-31

RAGFlow v0.22.0 发布：数据源同步、变量聚合、全新管理界面与多项重大更新

2025-11-13

任何格式RAG数据实现秒级转换！彻底解决RAG系统中最令人头疼的数据准备环节

2025-10-12

大模型RAG入门宝典｜从AI搜索到实战搭建，小白&程序员必收藏的检索增强指南

2025-12-03

大家都在问

Apple 入局 RAG：深度解析 CLaRa 框架，如何实现 128x 文档语义压缩？

2025-12-10

RAG知识库迎来大洗牌：GraphRAG如何让机器真正读懂世界？

2025-11-23

再谈RAG的文档解析——文档解析的难点在哪里？

2025-11-20

为什么RDF是AI系统的“天然知识层”？

2025-11-19

大模型生态的“不可能三角”：规模化应用的架构困境？

2025-11-04

Embedding与Rerank：90%的RAG系统都搞错了！为什么单靠向量检索会毁了你的AI应用？

2025-10-04

存算一体破局向量检索瓶颈，IBM放出王炸VSM：性能飙升100倍，能效碾压GPU千倍，RAG要变天？

2025-09-30

您应该为您的 RAG 系统使用哪种分块技术？

2025-09-10

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： [email protected]

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部