医疗大模型华佗GPT-2：医学问答超越GPT-4，通过2023年国家执业药师考试

前言

随着人工智能技术的快速发展，特别是在自然语言处理(NLP)领域，大型预训练模型如GPT系列已经显示出在多个领域的强大应用潜力。最近，华佗GPT-2医疗大模型的发布，不仅标志着人工智能在医学领域的一大进步，更是在2023年国家执业药师考试中展示了其超越国际知名GPT-4模型的卓越能力。

模型概述

华佗GPT-2是由由深圳市大数据研究院和香港中文大学（深圳）联合推出的医疗系列大模型。此模型结合了最先进的深度学习技术和大规模的医疗专业数据集，旨在为用户提供准确、专业的医学知识问答服务。华佗GPT-2通过融合ChatGPT生成的“蒸馏数据”和真实世界医生回复的数据，能够模仿医生的诊断能力，提供有用的医学信息。

Huggingface模型下载：https://huggingface.co/FreedomIntelligence/HuatuoGPT2-13B
AI快站模型免费加速下载：https://aifasthub.com/models/FreedomIntelligence

技术细节

华佗GPT-2模型采用了四种不同的数据集，包括来自ChatGPT的蒸馏指令数据集和真实医生指令数据集，以及相应的对话数据集，使得模型训练更加全面和深入。HuatuoGPT 使用了四种不同的数据集，分别如下：

蒸馏 ChatGPT 指令数据集（Distilled Instructions from ChatGPT）：这个数据集受到 Alpaca 模型创建指令集的方法启发，从 ChatGPT 中提炼出医疗相关的指令。与之前工作不同的是，本方法还加入了科室和角色信息，根据采样的科室或角色生成符合条件的指令数据集。
真实医生指令数据集（Real-world Instructions from Doctors）：这个数据集来源于真实医生和患者之间的问答。医生的回复通常简洁且口语化，因此本方法通过润色以提高其可读性。
蒸馏 ChatGPT 对话数据集（Distilled Conversations from ChatGPT）：这个数据集通过为两个 ChatGPT 模型提供共享的对话背景，让它们分别模仿医生和患者进行对话。
真实医生对话数据集（Real-world Conversations with Doctors）：这个数据集来源于真实医生的对话，但对医生的回复使用模型进行了润色。