面向医疗场景的大模型 RAG 检索增强解决方案

发布日期：2024-12-24 08:09:07 浏览次数： 3346

作者：阿里云大数据AI平台

微信搜一搜，关注“阿里云大数据AI平台”

在现代信息检索领域，检索增强生成（Retrieval-Augmented Generation, RAG）模型结合了信息检索与生成式人工智能的优点，从而在特定场景下提供更为精准和相关的答案。在特定场景下，例如医疗等领域，用户通常需要精确且相关的信息来支持决策。传统生成模型虽然在自然语言理解和生成方面表现良好，但在专业知识的准确性上可能有所不足。RAG 模型通过将检索与生成相结合，能有效提升回答的准确性和上下文相关性。本方案为您介绍，如何使用人工智能平台 PAI 构建面向医疗场景的大模型 RAG 检索增强解决方案。

使用 PAI-Designer 构建知识库

您可以参照数据格式要求准备，使用 PAI-Designer 构建相应的检索知识库。

使用 PAI-LangStudio 进行模版构建

您在 LangStudio 中使用预置的 RAG 模版进行定制化，创建适合具体应用的模板。

使用 PAI-Langstudio 构建在线应用

LangStudio 提供了用户友好的界面，使用户能够轻松提交查询并获取答案。您可以使用创建好的模板构建符合业务需求的在线应用。

前置准备

在开始执行操作前，请确认您已完成以下准备工作：

已开通 PAI 后付费，并创建默认工作空间，详情请参见开通 PAI 并创建默认工作空间。【https://x.sm.cn/8bFzt3P】
已创建 OSS 存储空间（Bucket），用于存储训练数据。关于如何创建存储空间，详情请参见控制台创建存储空间。【https://x.sm.cn/3MQVVH7】
已开通 Milvus 数据库，用于构建指数库的向量存储，详情请参见快速创建 milvus 实例【https://x.sm.cn/k2ozRD】

1. 准备数据集

在使用 PAI-Designer 构建知识库的过程中，您首先需要根据特定领域的需求，准备并整理好适合的数据集。这些数据往往涉及到该领域的专业内容，需确保数据的准确性和完整性。PAI-Designer 提供了一套便捷的工具和接口，帮助用户轻松导入和管理这些数据。在本解决方案中，我们以医疗为例，展示使用 CSV 作为原始数据，使用 PAI-Designer 构建知识库的的步骤。

您需要确保数据格式符合 PAI-Designer 的要求，例如 CSV 格式。可以通过对领域文档进行预处理和格式化，提取其中的关键信息。

数据示例

以下给出医疗领域的数据的示例，格式为 csv，主要内容为维基百科上的疾病介绍，用户可以根据需要准备自己的数据：

该示例数据集已经放置于公开的 oss bucket 中，可以使用 wget 下载，下载后请用户将数据上传到自己的 oss bucket 中，以供下一步使用：

wget https://atp-modelzoo-sh.oss-cn-shanghai.aliyuncs.com/release/solutions/rag/data/%E5%8C%BB%E7%96%97csv.zip

2. 部署 LLM 和 Embedding 模型

1. 前往快速开始 > ModelGallery【https://x.sm.cn/3MQVVH7】，分别按场景选择大语言模型及 Embedding 分类，并部署指定的模型。本文以通义千问2.5-7B-Instruct和bge-large-zh-v1.5 通用向量模型为例进行部署。请务必选择使用指令微调的大语言模型（名称中包含“Chat”或是“Instruct”的模型），Base 模型无法正确遵循用户指令回答问题。

2. 前往任务管理【https://x.sm.cn/3MQVVH7】，单击已部署的服务名称，在服务详情页签下单击查看调用信息，分别获取前面部署的 LLM 和 Embedding 模型服务的 VPC 访问地址和 Token，供后续创建连接时使用。

3. 创建 LLM 链接

1. 进入LangStudio【https://x.sm.cn/4LWtzJm】，选择工作空间后，在连接管理页签下单击新建连接，进入应用流创建页面。

2. 创建通用 LLM 模型服务连接。其中 base_url和api_key 分别对应「2. 部署 LLM 和 Embedding 模型」中 LLM 的 VPC 访问地址和 Token。

4. 创建 Embedding 模型服务连接

同「3. 创建 LLM 链接」，创建通用 Embedding 模型服务连接。其中 base_url 和 api_key 分别对应「2. 部署 LLM 和 Embedding 模型」中 Embedding 模型的 VPC 访问地址和 Token。

5. 创建向量数据库连接

同「3. 创建 LLM 链接」，创建 Milvus 数据库连接。

关键参数说明：

uri：Milvus 实例的访问地址，即http://<Milvus内网访问地址>，Milvus 内网访问地址如下：

则 uri 为http://c-b1c5222fba****-internal.milvus.aliyuncs.com。

token：登录 Milvus 实例的用户名和密码，即<yourUsername>:<yourPassword>。
database：数据库名称，本文使用默认数据库default。

使用 PAI-Designer 构建知识库

使用 PAI-Designer 构建知识库索引工作流主要包含以下几个步骤:

使用数据源读取组件，读取 OSS 中的数据。
使用文本解析分块组件，对文本进行分块。
使用向量生成组件，对分块后的文本进行向量化。
使用索引存储组件，将向量化后的文本存储到向量数据库。

PAI-Designer 工作流串联示例

您可以打开 PAI-Designer，选择 LLM 大语言模型中的检索增强生成构建自己的知识库。

进入工作流后，您会看到下面的工作流，接下来依次介绍各个模块的作用以及需要填写的参数。

RAG 读取 OSS 数据

选择存储数据的 OSS Bucket，确保 Bucket 中已经保存好相关的文档数据（可以为 pdf/csv 格式）。

RAG 文本解析分块

对输入的文件进行分块处理，填入块大小和块重叠大小的参数，并选择 OSS Bucket 保存分块完成的数据。

RAG 文本向量生成

使用 embedding 模型，对分块完成的数据进行向量化并存储，便于后续的检索操作。

RAG 索引构建

使用先前创建的 milvus 数据库，存储已经生成的文档向量。其中向量数据库选择自己创建的数据库，为存储的文档向量取一个名称，填入集合/表名称中；相似度度量可以选择点积、余弦、欧几里得的方式；并选择一个 OSS Bucket 保存 RAG 的索引。

使用 PAI-LangStudio 进行模版构建

PAI-LangStudio 是一个人工智能应用的开发平台，采用直观的交互式环境，简化了企业级大模型应用的开发流程。在开发和设计大模型应用时，可以使用 PAI-LangStudio 进行模版构建。此外，PAI-LangStudio 配合一键部署 EAS，使得高质量应用得以迅速、无缝地部署至生产环境。以下介绍使用 PAI-LangStudio 进行模版构建的过程

新建应用流

进入 LangStudio【https://x.sm.cn/4LWtzJm】，选择工作空间后，在应用流页签下单击新建应用流，进入应用流创建页面。
选择从模板新建，并在选择 RAG 模板后填入应用流名称，在 OSS Bucket 中选择存储应用流的路径。

配置应用流

创建应用流后会进入应用流详情界面，左图中有四个节点，分别对应了不同的功能。

rewrite_question 节点通过对用户问题的重写以提升问题质量，其中需要用户在基础配置中选择 connection为「前置准备3. 创建 LLM 连接」中创建好的连接。

retrieve 节点通过向量数据库召回和问题相关的文档内容，Vector Store 需要用户选择「前置准备5. 创建向量数据库链接」中创建好的数据库以及在 index_name 中填入使用「PAI-Designer 构建知识库-RAG 索引构建」中填入的集合/表名；Embedding Model 中需要用户选择「前置准备4. 创建 Embedding 模型服务连接」中创建的连接。

threshold_filter 节点对 retrieve 节点召回的文档进行过滤，填入的 threshold 值是对召回文档和查询问题相似度过滤的条件，threshold 越大，则过滤掉越多召回的相似度低的文档。

generate_answer 节点根据召回和过滤后的文档，回答问题。用户需要在基础配置中选择「前置准备3. 创建 LLM 连接」中创建好的 LLM 连接。

使用 PAI-LangStudio 构建在线应用

配置完上述流程后，点击启动运行时，并选择机型，配置专有网络链接，部署 RAG 应用。

运行时启动后，点击对话按钮，在左侧对话框中输入想问的问题，与大语言模型开始交流对话。

案例对比

以下给出医疗领域，使用和不使用 RAG 解决特定任务的案例对比。红色部分表示大模型回答有事实性错误，或者不够具体精确，绿色部分表示使用 RAG 得到的对应正确回复。

任务一：疾病治疗建议

问题：患者女，40岁，常年患有全身性红斑狼疮。请根据相关医疗知识，给出个性化的治疗建议。

通义千问2.5-7B-Instruct

对于40岁的女性患者，如果确诊为全身性红斑狼疮（Systemic Lupus Erythematosus, SLE），治疗方案通常需要个体化制定，因为SLE的症状和病情严重程度在不同患者之间差异很大。治疗的目标是控制炎症、减轻症状、防止器官损害，并提高生活质量。以下是一些基本的治疗建议：

药物治疗：

非甾体抗炎药（NSAIDs）：用于缓解轻度疼痛和炎症。

糖皮质激素：如泼尼松，用于控制急性炎症和严重的症状。长期使用可能会有副作用，因此剂量需谨慎调整。

免疫抑制剂：如环磷酰胺、甲氨蝶呤等，用于控制疾病活动度较高的情况，特别是当糖皮质激素效果不佳时。

抗疟疾药物：如羟氯喹，可用于控制皮肤和关节症状。

生物制剂：对于某些对传统疗法反应不佳的患者，可能需要考虑使用生物制剂。

生活方式调整：

避免阳光直射：紫外线可诱发或加重SLE的症状，应尽量避免长时间暴露于阳光下。

健康饮食：均衡饮食，保持健康的体重。

适量运动：有助于改善身体状况和心情，但应避免过度劳累。

戒烟限酒：烟草和酒精可能加重病情。

定期随访：定期进行血液检查和其他必要的医学检查，以便及时调整治疗计划。

心理支持：SLE可能给患者带来较大的心理压力，提供适当的心理支持和咨询是非常重要的。

请注意，以上建议仅供参考，具体治疗方案应由专业的风湿病医生根据患者的实际情况制定。每位患者的具体情况不同，治疗方案也会有所差异。因此，强烈建议与您的主治医生密切合作，共同决定最适合您的治疗计划。

通义千问2.5-7B-Instruct

+ RAG

对于40岁的全身性红斑狼疮（SLE）患者，个性化治疗方案需考虑患者的具体症状、病情活动度、是否有器官损伤或并发症等因素。以下是一些建议：

定期监测与评估：定期进行肺功能检查及呼吸道症状评估，以便及时发现并治疗肺部损伤。定期进行免疫标志物检测如抗核抗体等，以便更早地调整治疗方案。
药物治疗：根据病情活动度选择合适的药物。如果患者病情较为稳定，可能需要使用非甾体抗炎药（NSAIDs）控制症状；如果病情较为活跃，可能需要使用糖皮质激素和/或免疫抑制剂如羟氯喹、氨甲蝶呤、霉酚酸酯等治疗。对于有严重并发症如狼疮肾炎、神经精神狼疮的患者，可能需要更强效的免疫抑制剂或生物制剂治疗。
生活方式建议：建议患者避免过度暴露于阳光下，因为紫外线可能诱发或加剧病情。同时，鼓励患者戒烟、适量运动、保持健康的生活方式。
定期复查：建议每半年至一年进行一次高分辨率计算机断层检查（HRCT），监测肺功能，以便及时发现肺部损伤的早期迹象并进行干预。
营养与支持：鼓励患者摄入足够的维生素和矿物质，特别是维生素D，以维持整体健康。同时，提供心理支持和咨询，帮助患者应对疾病带来的压力和情绪困扰。

请注意，这些建议仅供参考，具体治疗方案应由专业医生根据患者的详细病史和体检结果来制定。

任务二：疾病辅助诊断

问题：患者男，30岁，近日发现右眼视力严重受损，视力模糊并且出现复视，并且有肢体无力、共济失调现象。请根据相关医疗知识，判断患者可能患有的疾病，并且推荐医院相关科室进行治疗。

通义千问2.5-7B-Instruct

根据您描述的症状，患者可能出现以下几种情况之一：

视神经炎：视神经炎可能导致视力模糊、视野缺损，甚至失明。复视可能是由于眼部肌肉受累或颅内压增高所致。

脑血管意外（中风）：肢体无力和共济失调可能是脑血管意外的表现，尤其是当这些症状突然出现时。

多发性硬化症：这是一种中枢神经系统疾病，可以导致视力问题、肢体无力和共济失调等症状。

颅内肿瘤：颅内肿瘤也可能引起类似的症状，包括视力问题和神经系统功能障碍。

其他神经系统疾病：如格林-巴利综合征等，也可能导致类似症状。

鉴于上述多种可能性，建议患者尽快就医，并选择以下科室进行进一步诊断和治疗：

建议就诊科室

神经内科：首先考虑神经内科，进行全面的神经系统检查，包括视力测试、肌力评估、共济失调测试等。

眼科：针对视力模糊和复视的症状，建议眼科进行详细的眼部检查，以排除视神经炎或其他眼部疾病。

神经外科：如果怀疑是颅内肿瘤或其他结构性问题，可以考虑神经外科会诊。

康复科：如果确诊为多发性硬化症或其他导致肢体无力和共济失调的疾病，康复科可以帮助患者进行康复训练。

进一步检查

MRI扫描：尤其是头部和颈部的MRI，可以检查是否有脑血管意外、颅内肿瘤或其他结构异常。视觉诱发电位（VEP）：帮助评估视神经功能。血液检查：排除自身免疫性疾病或其他系统性疾病。腰椎穿刺：如果怀疑多发性硬化症，可能需要进行腰椎穿刺以检测脑脊液中的细胞和蛋白质水平。

急诊处理

由于患者的症状较为严重，建议立即前往医院急诊科就诊，以便及时进行初步评估和必要的紧急处理。总之，尽快就医并进行全面检查是非常关键的，以确定确切的病因并制定合适的治疗方案。

通义千问2.5-7B-Instruct

+ RAG

根据患者出现的症状，如右眼视力严重受损、视力模糊、复视以及肢体无力和共济失调等症状，这些表现可能指向神经系统的问题。

具体来看，这些症状可能与多发性硬化症（Multiple Sclerosis, MS）相关，这是一种影响中枢神经系统的慢性疾病。此外，这些症状也可能与视神经炎或其他眼部疾病有关。

鉴于上述情况，建议患者首先就诊于神经内科，进行详细的神经系统评估和相关检查。在神经内科，医生可能会推荐进行以下检查以进一步诊断：神经系统检查：评估患者的神经功能。磁共振成像（MRI）：尤其是脑部和脊髓的MRI，以寻找多发性硬化症的标志病变。视觉诱发电位（VEP）：用于评估视神经的功能状态。血液检查和其他相关检查：以排除其他可能导致类似症状的疾病。此外，如果视神经受损明显，眼科医生也需要参与诊断和治疗过程，因为视神经炎也是导致视力模糊和复视的一个可能原因。如果有必要，神经内科医生也可能转介患者至康复科、理疗科进行康复治疗，帮助改善患者的生活质量。

总之，鉴于患者的症状涉及多方面的神经系统问题，综合神经内科和眼科的多学科诊疗团队能够更好地提供全面的诊断和治疗建议。