沉浸式体验大模型陪诊

现在看个病，都有大模型全程陪诊了。

这是上海市第一人民医院此时此时正在发生的事情——

AI就医助理，无需下载APP，打开支付宝就能用。

从诊前预约挂号、在线取号，到诊中院内导航、排队叫号、扫码支付，再到诊后的报告查询、用药注意等流程，大模型都在旁协助。

据介绍，这也是上海首个基于大模型的AI陪诊师公济小壹。此次主要是针对眼科试点，未来还会拓展到更多科室。整个大模型都本地化部署，充分保障数据安全。

那么作为第一次去到医院的人来说体验究竟如何？这就带大家沉浸式体验一番。

沉浸式体验大模型陪诊

当你踏进医院那一刻，大模型就开始工作了。打开支付宝时就会自动弹出相应的AI助手界面。

看诊前，通过语音交互进行各类咨询：挂号、就诊、缴费、专科/医院介绍。

比如，你眼睛不舒服怎么办？做胃肠镜应该注意些什么？那么这个AI助手就会立即给出就诊建议，有必要可以挂号服务推送。

也不需要专门去机器挂号，线上点击就可以直接搞定。

完成挂号之后，可以继续询问当前候诊信息。

这时候它就给你实时的语音和文字播报：

当前您需要就诊，前面排队4人，当前叫号66号，地址位于7号楼1楼B区眼科检查一区……

在点击「院内导航」之后，通过手机摄像头，就可以跟着一只熊猫，沿着实景AR路线前往诊室。

当然你想去这个医院的任何地方，只需一段语音输入，它就能够指引，比如就诊完成之后需要去药房取药，然后直接在小程序上就可以完成支付。

之后像报告查询、用药注意，都可以直接在手机上查看，相当于形成了自己的健康档案。

整个流程下来，可以总结这样几个特点。

首先，语音交互。

这是基于在医院这一场景下，不少患者尤其像眼科患者，他们不便于阅读文字，也不熟悉复杂的线上操作流程。

这也是医院引入「数字陪诊师」的初衷，以语音输入输出和识别作为主要的交互方式，数字虚拟人作为交互载体。

其次，全流程的「主动」规划指引。

它接入了院内服务接口，包括诊前科室引导、诊中就诊排队看病取药、诊后的医助提醒。

当你进入就医流程之后，它就开始干活，主动提示患者如何完成下一步操作。‍

‍

‍△主动提醒代签到项目

以往可能需要IOT设备、短信或者手机上卡片等形式，但现在只需要小程序就能完成，并且从被动操作变成主动。

作为用户来说，也就不需要搞懂具体流程，只需要跟着他走就好。

另外能看到，大模型在意图识别和知识回答等方面表现更为突出。

意图识别这方面，据介绍共有9大意图分类、30+个细分意图、准确率最高可达95%以上。

知识问答则是有本医院的专业医师进行精调和标注，因此相较于通用大模型，更懂医疗专科知识。

最后一个显著的特点是，本地化私有化部署。

为了保障数据安全，整个大模型从训练到推理应用均是在上海第一人民医院完成。

他们有自己的标注知识库，基于蚂蚁的大模型集成平台，本地完成预预训练（包括医嘱、诊断数据）、SFT等操作来打造专属的医学模型。

还上线了AI电子病例

除了AI助手这种面向患者的「看诊陪诊」需求，此次上海市第一人民医院还联合支付宝面向医生诊疗需求上线了一个应用——

大模型生成式电子病历，据介绍还是全球首个。

每天他们所面对的患者数量很多。尤其像眼科这种，日间病房患者数量多，也就是患者当天完成入院、手术并出院的一种医疗模式。

工作节奏快、强度高，除了日常诊疗和手术外，还需要应对繁琐机械化的病历书写的工作。

基于蚂蚁百灵大模型，通过关键信息的给定、语音输入等多种形式结合，就可以自动生成病历，简化入院记录的填写过程。

一个具体的数字是，原本需要5到10分钟的工作缩减到了15至20秒，显著节省了医生 “敲键盘”的时间。

以白内障为例，目前医院抽取了1万份历史病历，将其输入到大语言模型中进行微调。

在这一过程中，开发部门设计了相应的提示词，训练模型学习如何撰写病史。

团队表示，后续医院会进一步基于大语言模型进行病历质控，帮助医生快速定位病历书写错误，不断提高病历生成的准确率。

医疗，作为重大的民生场景之一。关于大模型如何落地，其实也有了不少解决方案。

不管是面向患者的健康助手，还是面向医生的电子病历等等，但像这样以医院为主导，实现大模型本地化部署的，目前业内算是少数。他们结合自身优势，充分让大模型发挥自己的价值。

未来这样的落地经验有机会向更大范围复用，事实上也有正在进行之中。

今年4月，支付宝正式面向全国医院、医疗机构推出了“AI就医助理”解决方案，利用数字人+AI技术，助力医院提升诊疗前中后的就医服务体验。

除上海市以外，这套方案也助力了浙江卫健委推出数字健康人“安诊儿”，已覆盖浙江全省92家医院，服务上百万人次。

此次试点成熟之后，他们的专业知识以及落地经验，也能通过大模型的方式，朝着更基层的地方落地，实现真正的普惠。