论文浅尝 | 利用通用大语言模型助力现实世界医疗咨询

1. 动机

这两年，大语言模型在自然语言处理任务上频频交出亮眼成绩单，尤其在端到端的对话系统上，潜力肉眼可见。与此同时，“大健康”和“智能医疗”成了社会热词，大家都希望医疗资源能更公平、更可及。于是，一个很自然的问题就冒出来了：能不能用LLM做一个智能医疗对话助手，让专业、负担得起的在线咨询走进更多人的生活？

但问题来了：医疗咨询可不是随便聊聊天那么简单。一个合格的助手，得有扎实的医学功底，还得能跟患者来回聊上几个回合——追问、澄清、建议，一环都不能少。通用语言模型在这方面往往露怯：要么答非所问，要么追问两轮就卡壳，更别提缺乏系统性的医学知识了。再加上高质量的中文医疗数据集本来就稀缺，想训练一个真正能用的医疗对话模型，挑战不小。

面对这些难题，复旦大学数据智能与社会计算实验室（FudanDISC）推出了中文医疗健康个人助手——DISC-MedLLM。他们精心构造了一个包含47万条高质量监督微调（SFT）数据的数据集DISC-Med-SFT，并基于通用领域中文大模型Baichuan-13B进行训练。在单轮问答和多轮对话的医疗健康评测中，这个模型的表现明显优于现有的医学对话大模型。

2. 贡献

这篇文章的贡献可以归纳为四点：

（1）解决了构建综合文档存储库以及让检索器与查询语义保持一致这两大难题——这些正是开发智能医疗对话系统的关键障碍。
（2）发布中文医疗健康个人助手DISC-MedLLM，在单轮和多轮问答中显著领先同类模型。
（3）开源了包含47万条高质量SFT数据的数据集DISC-Med-SFT。
（4）深入分析了现有医疗对话系统的局限性（比如适用范围窄、集成难度大），并给出了未来的改进方向。

3. 方法

DISC-MedLLM的核心思路并不复杂：用高质量数据集DISC-Med-SFT，在通用中文模型Baichuan-13B上进行微调。但数据怎么来、怎么用，才是真正见功夫的地方。模型的整体框架如图1所示。

图1 模型优势以及框架图

3.1 数据集DISC-Med-SFT的构造

DISC-Med-SFT数据集由三大部分组成：重构AI医患对话、知识图谱问答对、行为偏好数据集。具体构成见表1。

表1 DISC-Med-SFT数据集介绍

先说重构AI医患对话。团队从两个公开数据集MedDialog和MedQA2里分别选了40万和2万个样本作为原始素材。现实中的医生回答虽然专业，但格式不统一，语气也偏严肃。为了让它们适配AI医疗助手的身份，他们让GPT-3.5来做“翻译”——保留医生的关键信息，同时把回答改写得更加全面、更有人情味。图2就是这样一个重构示例。

图2 AI医患对话重构示例

接下来是知识图谱问答对。他们基于中文医学知识图谱CMeKG，按照疾病节点的科室信息采样，再通过精心设计的Prompt，让GPT-3.5生成了超过5万个多样化的医学场景对话样本。

最后是行为偏好数据集。在训练的最后阶段，为了进一步提升模型的“人际对话感”，团队从MedDialog和cMedQA2中人工挑选了约2000个高质量、多样化的样本。先让GPT-4改写几个示范，人工修订后，再用小样本方法让GPT-3.5批量生成，最终形成高质量的行为偏好数据集。

3.2 模型训练

训练过程分为两个SFT阶段，如图3所示。第一阶段用不同的数据集给模型打基础——既学医学知识，又学对话技巧。第二阶段则用行为偏好数据集做“精细化打磨”，让模型更懂人类到底想要什么样的回答。

图3 模型训练架构图

4. 实验结果

评测分两个场景：单轮问答和多轮对话。

：从国家医疗执业医师资格考试（NMLEC）和全国硕士研究生入学考试（NEEP）西医306专业抽取了1500多道单选题，用来考察模型在医学知识上的硬实力。

：从三个公开数据集（CMB-Clin、CMD、CMID）中随机抽样本，让GPT-3.5扮演病人跟模型对话，再由GPT-4从主动性、准确性、帮助性和语言质量四个维度打分。

表2 单轮QA评测结果

单轮结果出来了：GPT-3.5依然稳坐头把交椅。DISC-MedLLM在小样本设置下拿到第二名，零样本设置中略逊于Baichuan-13B-Chat，排第三。不过值得关注的是，它比用了强化学习的HuatuoGPT(13B)还要好。

表3 多轮对话评测结果

多轮对话方面，在CMB-Clin评测中，DISC-MedLLM综合得分最高，HuatuoGPT紧随其后。特别是在“主动性”这一标准上，DISC-MedLLM得分最高——这恰恰说明了他们偏向医学行为模式的训练方法的有效性。

5. 总结

这篇工作推出的DISC-Med-SFT数据集，巧妙利用了真实世界的医患对话和通用大语言模型，在领域知识、对话技能和人类偏好理解三个关键维度上都做了针对性强化。基于该数据集训练的DISC-MedLLM，是一个高度先进的医疗大模型，尤其在医疗交互领域，进步相当显著。

进步不止体现在技术指标上。这个模型展现出的实用性和广泛潜力，让它在在线医疗领域成了一项真正的创新——有望大幅降低在线咨询成本，同时提升服务质量。更进一步，这类技术还能推动医疗资源“下沉”，让偏远地区的人群同样享受高质量的医疗服务。

更值得期待的是，DISC-MedLLM让个性化医疗服务变得更可行。它能够理解个体的医疗需求和偏好，进而提供定制化的建议和治疗方案。在大健康事业的宏大背景下，这样的技术不仅能提高医疗质量与效率，还会带来深远的社会和经济影响，为医疗智能化开辟新的道路。