5分钟快速上手:CMLM-ZhongJing中医大语言模型完整使用指南
5分钟快速上手:CMLM-ZhongJing中医大语言模型完整使用指南
【免费下载链接】CMLM-ZhongJing首个中医大语言模型——“仲景”。受古代中医学巨匠张仲景深邃智慧启迪,专为传统中医领域打造的预训练大语言模型。 The first-ever Traditional Chinese Medicine large language model - "CMLM-ZhongJing". Inspired by the profound wisdom of the ancient Chinese medical master Zhang Zhongjing, it is a pre-trained large language model designed specifically for the field of Traditional Chinese Medicine.项目地址: https://gitcode.com/gh_mirrors/cm/CMLM-ZhongJing
CMLM-ZhongJing(仲景)是首个专门为传统中医领域打造的预训练大语言模型,受古代中医学巨匠张仲景的深邃智慧启发,旨在将中医博大精深的知识体系与现代AI技术相结合,为医学研究和临床辅助提供专业工具。本指南面向技术新手和普通用户,提供从零开始快速体验这一专业中医AI模型的完整流程。
第一步:环境准备与项目部署
项目获取与基础配置
首先需要获取项目代码并设置基础环境。CMLM-ZhongJing基于Python开发,支持多种部署方式,从最简单的网页演示到本地完整运行都能满足不同需求。
关键操作点:
克隆项目仓库:使用Git命令获取最新代码
git clone https://gitcode.com/gh_mirrors/cm/CMLM-ZhongJing.git cd CMLM-ZhongJing安装依赖包:项目提供了完整的依赖列表
pip install -r requirements.txt模型下载准备:项目支持两种不同规模的模型,可根据硬件配置选择:
- ZhongjingGPT1_13B:13B参数版本,需要高性能GPU
- ZhongJing-2-1_8b:1.8B轻量版,单张Tesla T4即可运行
实用小贴士:如果本地GPU资源有限,推荐使用1.8B轻量版模型,运行要求较低且响应速度快。
第二步:快速启动网页演示界面
一键启动交互式Web界面
CMLM-ZhongJing提供了基于Gradio的网页演示界面,无需编写任何代码即可体验中医AI的强大功能。
操作指南:
启动Web Demo:在项目目录中运行
python WebDemo.py访问本地服务:启动成功后,在浏览器中打开
http://localhost:7860/界面功能说明:
- 单轮对话模式:适合简单的症状咨询和方剂查询
- 多轮对话模式:支持复杂的诊疗对话和病情分析
- 历史记录:自动保存对话历史便于回溯
界面特点:演示界面设计简洁直观,左侧为输入区域,右侧实时显示模型回答,支持中英文输入,响应速度快。
上图展示了CMLM-ZhongJing采用的多任务诊疗行为分解策略,该策略借鉴人类记忆与学习机制,通过15种诊疗场景任务构建高质量指令数据,确保模型在中医专业领域的准确性。
第三步:核心功能深度体验
中医专业问答实践
CMLM-ZhongJing在中医领域具备专业的知识库和推理能力,用户可以通过以下方式深度体验其核心功能:
中医症状咨询示例:
- 简单症状:"头痛发热怎么办?"
- 复杂症状:"心痛彻背,背痛彻心,怎么治疗,请你对此症状给出中医处方。"
- 舌脉象分析:"舌红苔薄黄,脉细数,这是什么证候?"
诊疗决策推理测试:模型在复杂诊疗场景中表现出色,能够结合病史、症状、舌脉象进行综合辨证分析。
处方生成能力:基于专业中医知识库,模型能够生成符合中医理论的中药方剂,包括药物组成、剂量和煎服方法。
模型效果对比验证
CMLM-ZhongJing在专业医师评估中展现出卓越表现。以下是与其他主流模型在中医诊疗任务中的对比结果:
评估结果显示,CMLM-ZhongJing在参数规模相对较小的情况下,在客观性、逻辑性、专业性、准确性和完整性等多个维度上均表现优异,部分场景下甚至超越GPT-4等大型模型。
第四步:代码调用与集成开发
本地API调用方法
对于开发者用户,可以直接在Python项目中集成CMLM-ZhongJing模型:
基础调用示例:
from transformers import AutoModelForCausalLM, AutoTokenizer import torch # 初始化模型和分词器 peft_model_id = "CMLL/ZhongJing-2-1_8b" base_model_id = "Qwen/Qwen1.5-1.8B-Chat" model = AutoModelForCausalLM.from_pretrained(base_model_id, device_map="auto") model.load_adapter(peft_model_id) tokenizer = AutoTokenizer.from_pretrained( "CMLL/ZhongJing-2-1_8b", padding_side="right", trust_remote_code=True, pad_token='' ) # 构建查询指令 instruction = "我对三元汤的全过程很好奇,能否从简介、病历、症状、诊断和治疗,以及结果讨论等方面给我详细介绍?" # 准备输入 messages = [ {"role": "system", "content": "You are a helpful TCM medical assistant."}, {"role": "user", "content": f"Question: {instruction}"} ] # 生成回答 inputs = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True) model_inputs = tokenizer([inputs], return_tensors="pt").to("cuda") generated_ids = model.generate(model_inputs.input_ids, max_new_tokens=512) response = tokenizer.decode(generated_ids[0], skip_special_tokens=True) print(response)进阶配置选项:
- 设备选择:支持CPU、CUDA、MPS等多种计算设备
- 生成参数:可调整max_new_tokens、temperature等参数控制输出
- 批量处理:支持批量输入提高处理效率
实用小贴士:参考项目中的src/zhongjinggpt_1_b.py文件,了解更多高级用法和配置选项。
第五步:高级应用与定制开发
数据构建与模型微调
CMLM-ZhongJing的核心优势在于其专业的指令数据构建方法,开发者可以基于此方法扩展模型能力:
专业指令数据特点:
- 多任务诊疗分解:涵盖15种诊疗场景任务
- 中医常识指令:包含8万条多维度的中医专业知识
- 高质量数据源:基于中医古籍、方药、证候等专业资料
模型微调建议:
- 数据准备:按照项目的数据格式准备中医专业数据
- 微调配置:参考LoRA微调方法进行参数调整
- 效果验证:使用专业医师评估标准验证模型效果
部署优化与性能调优
部署环境建议:
- 硬件要求:1.8B版本建议8GB以上显存,13B版本建议24GB以上显存
- 软件环境:Python 3.8+,PyTorch 2.0+,Transformers 4.30+
- 网络要求:首次运行需要下载模型权重,建议稳定网络环境
性能优化技巧:
- 量化压缩:使用4-bit或8-bit量化减少内存占用
- 缓存优化:启用KV缓存提高推理速度
- 批量推理:合理设置batch_size平衡内存和速度
总结与后续学习路径
CMLM-ZhongJing为中医AI领域提供了强大的工具支持,通过本指南的五个步骤,用户可以快速上手并深度体验这一专业模型。从简单的网页演示到复杂的代码集成,项目提供了完整的解决方案。
后续学习建议:
- 深入研究项目文档:详细阅读项目README文件了解技术细节
- 探索源码结构:分析src/目录下的核心代码实现
- 参与社区讨论:关注项目更新和技术交流
- 实践应用开发:尝试将模型集成到实际中医辅助系统中
重要提示:本模型所有输出结果仅供学术研究参考,不构成任何医疗建议。临床诊断和治疗应由经验丰富的专业医师提供。模型尚处于实验室测试阶段,不具备高度可信的临床诊疗能力。
通过本指南的学习,您已经掌握了CMLM-ZhongJing中医大语言模型的核心使用方法,无论是作为研究工具还是技术验证,都能为中医与现代AI技术的结合提供有力支持。
【免费下载链接】CMLM-ZhongJing首个中医大语言模型——“仲景”。受古代中医学巨匠张仲景深邃智慧启迪,专为传统中医领域打造的预训练大语言模型。 The first-ever Traditional Chinese Medicine large language model - "CMLM-ZhongJing". Inspired by the profound wisdom of the ancient Chinese medical master Zhang Zhongjing, it is a pre-trained large language model designed specifically for the field of Traditional Chinese Medicine.项目地址: https://gitcode.com/gh_mirrors/cm/CMLM-ZhongJing
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
