2026年7月9日 周四晚上19:30,报名腾讯会议了解“如何构建自进化的动态知识库(Brain)”(限30人)
免费POC, 零成本试错
FDE知识库

FDE知识库

学习大模型的前沿技术与行业落地应用


收藏

准确率提升17%!渊亭科技Graph-RAG技术迎来新突破

发布日期:2024-09-11 16:17:32 浏览次数: 3001
作者:渊亭科技

微信搜一搜,关注“渊亭科技”



前言

在大数据和人工智能的浪潮中,信息检索技术迎来了飞速发展。RAG(Retrieval-Augmented Generation)技术,作为这一浪潮中的创新成果,通过融合检索与生成技术,优化了搜索结果,使其更精准地满足用户需求。


然而,面对海量数据和复杂文档的挑战,传统RAG技术在处理分散信息的整合、全面理解大量数据集或单个大型文档的摘要语义概念方面存在一定的局限性。针对这些限制,微软提出了GraphRAG技术。GraphRAG主要是利用大型语言模型(Large Language Models, LLMs)构建基于图的文本索引,以支持对整个文本语料库全局性问题的解答。尽管Graph RAG突破了传统RAG的技术壁垒,但它在实际应用中仍面临架构不完整、缺乏全链条支持(尤其在检索和上下文理解方面)、构建速度慢、成本高昂以及对特定技术栈有依赖等挑战。

渊亭科技多年来一直深耕知识图谱领域,随着大模型技术的兴起与发展,渊亭科技一直在技术研发和项目落地中不断探索两者的融合与应用,最终探索出了利用知识图谱来弥补此类不足的途径——KG-RAG(Knowledge Graph Retrieval-Augmented Generation,基于知识图谱的检索增强生成)


渊亭KG-RAG方案,集成了自动化智能图谱构建、精细化的多层索引策略和高效的全局查询引擎,相较于微软的Graph RAG,渊亭KG-RAG能够显著提升生成模型的内容输出质量,增强生成文本的准确性、丰富性和相关性,助力企业安全高效地构建、部署、应用,实现更加便捷、精确的智能对话,进而提高业务决策的效率和质量。

 


传统图谱构建的难度在于需要结合运用自然语言处理(NLP)、机器学习、数据库管理以及分布式计算等多种技术手段,由于涉及复杂的图结构索引构建、实体关系的精确抽取与链接,以及高效的检索机制设计,Graph RAG在数据预处理、算法优化和系统架构设计等方面都面临较大挑战,特别是如何平衡构建速度与查询性能,以及如何有效利用并发和分布式处理技术来加速整体流程。


渊亭基于自有的Sati-Pro技术, 实现按需自动化图谱构建,这种方法不仅能够细致构建相互关联的异构知识信息,还能提升知识上下文的连贯性与深度。主要体现在以下几个方面:


(1)元数据生成:基于Sati-Pro 的全自动化的图谱构建工具(数据抽取、融合到生成)和zero-shot、few-shot的学习方式,实现通用领域的元数据构建与生成。同时,可通过渊亭领域经验协助构建prompt,加速数据生成。


(2)数据抽取:支持泛文本的数据自动抽取,基于对应领域的元数据,再结合大模型的领域知识理解能力,从泛文本中自动化抽取关键信息。


(3)数据融合:利用数据抽取获得的高质量结构化数据,自动学习数据间关联性,按预设规则整合不同来源和格式的数据,生成全面、准确、一致的知识网络。


传统RAG技术利用向量搜索方法处理非结构化数据,即将信息转化为高维向量进行表示和检索。这种方法在局部检索任务表现出色,但面对复杂查询或领域特色主题时,难以提供足够的上下文深度和信息关联性。为了让答案更加准确和完整,让源数据信息进行多层次深化索引,渊亭KG-RAG除了使用部分RAG常规技术手段外,还采取下列增强手段:


(1)全息知识嵌入:相比Graph RAG的文本单元(TextUnits)切片方法,渊亭KG-RAG使用改进的深度学习算法技术进行语义切片,确保更高的准确性和上下文连贯性。


(2)动态社区发现:采用动态社区发现算法,实时调整社区结构,以捕捉数据集中潜在的变化和动态关系,确保社区结构始终保持最优。


(3)多层次实体识别:渊亭KG-RAG不仅提取基本实体和关系,还能识别更复杂的实体类型和关系网络,如情感关系、因果关系等,提供更丰富的数据层次。


(4)分层递归摘要:通过分层递归摘要技术,从底层到高层逐级生成社区摘要,确保每个层级的摘要都能准确反映数据集的全貌。



在查询处理环节,渊亭KG-RAG致力于实现更高的可解释性,并通过更深层次的检索增强技术,以优化查询结果的理解与精准度,主要通过:


(1)增强的全局查询能力:通过改进的知识图谱和语义聚类技术,使得渊亭KG-RAG在处理全局性问题时,能够更精准地捕捉数据集中的主要主题和隐藏模式。


(2)动态上下文拓展:渊亭KG-RAG能实时扩展相关概念,在具体查询时,提供更全面的答案,同时保留上下文信息,避免信息碎片化。


(3)全面混合多链路检索:在图向量与语义聚类技术外,KG-RAG还结合多维文本embeding、kg-vector、kg-rank等多技术路径,灵活应对大部分检索难点。


(4)高效的多层次查询:在处理复杂查询时,通过改进的层次聚类和语义分析,能够快速生成精确的多层次答案。


(5)可追溯性:每个查询结果都提供明确的出处,可精准溯源,确保结果的可验证性和可信度。


这里来看个对比例子,首先向RAG系统和渊亭KG-RAG提出一个探索查询。


“猎户座”无人机在俄乌战争中展现出的战术能力


  • 使用RAG进行查询


  • 使用渊亭KG-RAG进行查询


为了评估RAG和KG-RAG的回复,我们可以比较它们提供的:“猎户座”无人机在俄乌战争中展现出的战术能力的全面性、准确性和综合性。


RAG和KG-RAG回复对比



结果可以发现渊亭KG-RAG的回复更优,因为它通过引入知识图谱来增强系统的上下文理解和推理能力,从而提供了更全面、准确和综合的答案。


另外,在渊亭KG-RAG和RAG的准确率情况,我们进行了多项对比,包括单属性问答、多实体单属性问答、多实体多属性问答、多属性匹配等,根据实验数据,KG-RAG在信息检索的准确率高达83.26%,而单独使用RAG的准确率仅66.52%。在整体准确率上,KG-RAG相对于传统的RAG方案提升了约17%


对比情况表


 

微软的Graph RAG需要克服组件间依赖性、配置复杂度、数据格式兼容性、性能要求、对外部库的依赖、平台特性的差异及安全合规等挑战,这要求解决方案具备灵活性、详细的文档说明以及强大的支撑以保证在不同环境中的顺利部署与运行。


渊亭KG-RAG通过高度解耦的设计,使产品能够实现跨环境的无缝兼容,无需依赖于固定的大模型和图数据,为应用的快速落地提供全方位支撑,主要体现在:


(1)灵活选型:提供了多种预置模板,用户可以根据需求,通过拖拉拽的方式,选择最适合的 KG-RAG技术路径,确保最佳的性能和效果,为熟悉场景但对技术细节不太了解的用户提供服务。


(2)细化调整:可以根据不同场景的需求细化调整 KG-RAG 的能力适配,允许用户进行精细化配置,提高应用的灵活性和适应性。


(3)模块化设计:系统采用模块化设计,每个模块独立部署、维护,可按需配置资源。


(4)依赖解耦:系统设计不依赖特定的大模型、关系数据库、图数据库等基础设施,能够兼容市场上大部分基础设施 ,比如大模型支持Qwen、Baichuan、ChatGLM、LLaMA、LLaVA、Mistral、Mixtral-MoE、Yi、Gemma等。


(5)技术路径多样性:系统采用多技术路径,如图向量、语义聚类、多维文本 embedding、kg-rank 等,并采用场景模块化思路,快速构建适用不同场景下最优技术链路。


(6)国产化:系统支持国产CPU、国产GPU,国产操作系统(如麒麟),且适配国产组件(如达梦数据库)。


渊亭KG-RAG在功能创新上实现了自动化构图、多维度知识图谱推理与溯源,以及便捷的一键式知识检索报告生成与画像分析报告等功能,极大地提升了检索和分析的效率。


通过构建和细化多维度知识图谱,提供了强大的推理和溯源分析能力。它能够透视数据之间错综复杂的关系网,进行深入的推理分析,并追溯信息的起源,揭示数据背后的逻辑联系。此外,通过对具有相似特征或行为的实体进行群体分析,KG-RAG能够揭示群体内部的动态变化和趋势,为决策提供有力的数据支撑。


用户通过简单对话即可生成详尽的知识检索报告和画像分析报告。这些报告不仅包含查询的基本信息,还结合知识图谱的推理和溯源能力,提供更深层次的分析和见解。此外,系统还能生成针对特定个体的全面画像分析,整合不同来源的数据,细致描绘出个人的特征、行为模式及其潜在影响,为用户提供深度的洞察和服务。

 


在政策申报过程中,用户经常面对政策信息了解不全面、申报条件以及申报流程等问题。针对企业和个人在寻求政策支持时的实际需求,KG-RAG进一步发挥了其强大的政策匹配与推荐能力。用户仅需输入基本信息和需求,系统便能自动检索知识图谱,精准匹配适用政策,并提供详细的申请指南。这种自动化的政策匹配与推荐服务,不仅减轻了用户的信息筛选负担,还提高了政策落地的效率和精准度,为企业和个人的发展提供了有力支持。  


传统的金融服务往往采取标准化的策略,所提供的投资建议可能无法满足个别客户的具体需求;而金融产品的推荐也可能受限于不全面的客户信息和产品特性,导致推荐的效果不尽如人意。为了解决这些问题,KG-RAG+大模型通过整合客户数据、市场动态及产品特征构建了一个综合性的知识图谱。


借助该图谱,系统能够深入分析客户的过往交易记录,准确捕捉其交易行为模式、风险承受能力和长远财务目标。结合先进的风险评估机制,KG-RAG+不仅能够全面审视客户的投资环境,包括但不限于市场波动性、政策变化及行业发展趋势等多个风险维度,还能基于这些洞察,提供包括资产配置、投资组合优化、教育基金储备、退休计划及税务规划等在内的个性化风险管理方案,从而实现更加精准且有针对性的金融产品推荐和服务。


舆情数据往往来自不同的领域和渠道,具有异构性和多样性。传统的情报分析方法难以有效整合这些跨领域的数据。渊亭KG-RAG能够处理跨领域的数据集,快速分析来自不同国家、不同行业以及多种数据类型,包括新闻报道、社交媒体舆论、研究报告等情报信息。它自动化整合文本、图像、视频等多类型数据,构建跨领域情报知识图谱,有效解决了数据整合难题。


同时,渊亭KG-RAG利用其查询处理优势,深度分析知识图谱中的实体和关系,识别异常舆情与潜在风险。如某地区出现特殊事件而产生大量负面言论时,KG-RAG能迅速检测并验证这些异常信号。确认风险后,即刻触发预警,通知相关部门或企业及时响应。此外,它还能实时分析知识图谱中的实体和关系变化,感知并预测特定领域态势。

 


通过以上分析可以看出,KG-RAG作为RAG方案的下一场,在信息检索与生成模型融合方面展示了巨大的潜力和优势。其通过引入知识图谱技术,提升了知识的组织和检索效率,显著改善了生成结果的准确性和相关性。未来,随着技术的不断进步和应用场景的扩展,KG-RAG有望在更多领域中得到应用,为复杂问题的解决提供更为高效和准确的工具和方法。


53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询

扫码登录
登录即表示您同意《53AI网站服务协议》
服务协议

欢迎您使用【53AI 官方网站】(以下简称“本网站”或“我们”)。本《会员服务协议》(以下简称“本协议”)是您(以下简称“会员”或“用户”)与【深圳市博思协创网络科技有限公司】之间关于注册、登录及使用本网站会员服务所订立的法律协议。

在您注册或登录前,请务必审慎阅读、充分理解各条款内容,特别是免除或限制责任的条款、知识产权条款、争议解决条款等。此类条款将以加粗形式提示您注意。 当您通过微信公众号授权、手机验证码验证或其他方式成功登录本网站时,即视为您已完全理解并同意接受本协议的全部内容。

一、 定义

本网站:指由【深圳市博思协创网络科技有限公司】运营的,域名为【53ai.com】的网站及相关移动端页面。

会员服务:指本网站向注册会员提供的知识库文章查阅、内容检索及其他相关增值服务。

知识库内容:指本网站发布的包括但不限于文字、图表、数据、研究报告、行业分析等数字化内容资源。

二、 账号注册与登录

登录方式:本网站支持以下登录方式,您可根据实际情况选择:

微信公众号授权登录:您同意将您的微信OpenID信息授权给本网站,用于创建或关联会员账号。

手机验证码登录:您需提供真实有效的手机号码,并通过短信验证码完成身份验证与登录/注册。

账号安全:您的账号仅限您本人使用,禁止赠与、借用、租用、转让或售卖。因您保管不善导致的账号被盗、密码泄露等损失,由您自行承担。

实名认证:根据相关法律法规要求,我们可能要求您在特定功能下完成实名认证。如您拒绝提供,可能无法使用部分或全部服务。

未成年人保护:若您未满18周岁,请在法定监护人的陪同下阅读本协议,并在征得监护人同意后使用本服务。

三、 服务内容与规范

知识库查阅权限:会员登录后,有权按照其会员等级对应的权限范围,在线浏览、检索本网站知识库中的相关文章及内容。

服务变更:我们有权根据业务发展需要,调整、变更或终止部分服务内容,并将以网站公告、公众号消息等方式提前通知。

禁止行为:您在使用服务时不得实施以下行为:

利用技术手段批量爬取、下载、转存知识库内容;

将知识库内容用于商业目的或未经授权地向第三方传播;

干扰本网站正常运行或侵犯其他用户合法权益;

发布违法违规信息或从事违反公序良俗的活动。

四、 知识产权声明

权利归属:本网站知识库中的排版设计、软件代码等内容的知识产权均归【公司全称】或原权利人所有,受《中华人民共和国著作权法》等法律保护。

有限许可:本网站授予会员一项非独占、不可转让、不可转授权的普通许可,仅限于个人学习、研究之目的在线查阅知识库内容。

侵权追责:未经书面许可,任何单位或个人不得以任何形式复制、转载、摘编、镜像、汇编或以其他方式使用上述内容。一经发现,我们保留追究其法律责任的权利。

五、 个人信息保护

我们重视对您个人信息的保护。关于我们如何收集、使用、存储和保护您的个人信息,请单独阅读 《隐私政策》。

您通过微信公众号授权或手机号验证所提供的信息,我们将严格按照《个人信息保护法》的规定处理,仅用于身份识别、服务提供及安全验证等必要用途。

您可以随时通过网站设置或联系客服行使查阅、更正、删除个人信息及撤回授权同意的权利。

六、 免责声明

内容准确性:知识库内容仅供参考,不构成专业建议。我们不对其完整性、准确性、时效性作任何明示或暗示的保证,您应自行判断并承担使用风险。

不可抗力:因自然灾害、政策法规变化、网络故障、第三方平台接口异常(如微信接口维护、运营商短信通道故障)等不可抗力导致的服务中断或延迟,我们不承担违约责任。

第三方链接:本网站可能包含指向第三方网站的链接,该等网站的内容和服务不受我们控制,请您自行甄别风险。

七、 违约责任

如您违反本协议约定,我们有权视情节采取警告、限制功能、暂停服务、注销账号等措施,并保留要求赔偿损失的权利。

如因您的违约行为导致我们遭受行政处罚、第三方索赔或商誉损失,您应承担全部赔偿责任(包括但不限于罚款、赔偿金、律师费、公证费等)。

八、 法律适用与争议解决

本协议的订立、执行和解释均适用中华人民共和国大陆地区法律。

因本协议产生的或与本协议有关的任何争议,双方应友好协商解决;协商不成的,任何一方均可向【公司所在地】有管辖权的人民法院提起诉讼。

九、 其他

本协议构成双方就本服务达成的完整协议,取代此前任何口头或书面约定。

本协议任一条款被认定为无效或不可执行的,不影响其他条款的效力。

我们对本协议享有最终解释权,并在法律允许的范围内保留随时修改的权利。修改后的协议一经公布即生效,继续使用服务即视为同意修订内容。


已查阅