AiMed: Artificial Intelligence large language model for chinese Medicine 面向中文医学的人工智能大语言模型

License Apache 2.0 python_version

🔬 介绍

AiMed 面向中文医学的人工智能大语言模型由清华大学OpenDE团队中国医学科学院医学信息研究所(下称“医信所”)联合研发。

AiMed 期望实现有效处理医学知识问答、医学论文阅读、医学文献检索等任务和在医学科研中的应用。

AiMed 详细测试脚本请参考我们的项目:https://github.com/Du-JinHua/AiMed

⏩ 构建流程

AiMed 整个构建流程包括:

  • PT增量预训练
  • SFT有监督微调
    • AiMed_PaperAbs是AiMed系列模型中,通过从千万医学文献中提取高质量10万条摘要进行的论文摘要大模型微调版本。
  • RLHF(奖励建模、强化学习训练)
  • DPO(直接偏好优化)

🌏 模型基座

模型名 模型大小 开源参数
Baichuan 13B baichuan-inc/Baichuan-13B-Chat

😜 推理和部署

推理所需的模型权重、源码、配置公开于https://github.com/Du-JinHua/AiMed

⚠️ 局限性

授权协议为 The Apache License 2.0,目前仅支持学术研究,不支持商业用途。

Downloads last month
11
Inference Examples
Inference API (serverless) does not yet support model repos that contain custom code.