Xidong commited on
Commit
c43f87d
1 Parent(s): 7836183

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +20 -32
README.md CHANGED
@@ -16,14 +16,9 @@ size_categories:
16
 
17
 
18
 
19
- # CMB Chinese-Medical-Benchmark 中文医学基准测评
20
- ![CMB](assets/title.png)
21
- <p align="center">
22
- 🌐 <a href="" target="_blank">Website</a> • <a href="https://github.com/FreedomIntelligence/CMB"> Github地址 </a>
23
-
24
  ## 🌈 更新
25
 
26
- * **[2023.07.25]** 🎉🎉🎉 CMB公开!感谢支持~🎉🎉🎉
27
 
28
 
29
 
@@ -31,43 +26,39 @@ size_categories:
31
 
32
  - 方法一:直接下载使用[zip压缩文件](https://github.com/FreedomIntelligence/CMB/tree/main/data)
33
  - 方法二:使用[Hugging Face datasets](https://huggingface.co/datasets/FreedomIntelligence/CMB)直接加载数据集 示例如下:
34
-
35
- ```python
36
- from datasets import load_dataset
37
-
38
- # main datasets (multiple choice)
39
- main_datasets = load_dataset('FreedomIntelligence/CMB','main')
40
- # exam paper datasets (multiple choice)
41
- exam_datasets = load_dataset('FreedomIntelligence/CMB','exampaper')
42
- # QA datasets
43
- qa_datasets = load_dataset('FreedomIntelligence/CMB','qa')
44
- ```
45
 
46
 
47
 
48
  ## 🥇 排行榜
49
 
50
- 我们在初始版本中进行评估的模型的zero-shot和five-shot准确率,请访问我们[官方排行榜](https://cmedbenchmark.llmzoo.com/static/leaderboard.html)了解详细结果。
51
 
52
 
53
 
54
  ## 🥸 数据集介绍
55
- ![CMB](assets/CMB.png)
56
- ![CMB](assets/CMB-qa.png)
57
  ### 组成部分
58
- - CMB-main: 全方位多层次测评模型医疗知识;
59
- - 结构: 6大项28小项,详见上图CMB-Main; [目录地址](https://github.com/FreedomIntelligence/CMB/blob/main/catalog.md);
60
  - CMB-test: 11200道题目,每一小项400道题目;
61
  - CMB-val: 280道附带详细解析的题目; Few Shot数据集;
62
  - CMB-train: 269359道题目; 模型医疗知识注入;
63
 
64
- - CME-qa: 测评复杂临床问诊能力
65
- - 数据: 73例复杂病例问诊;详见上图示例;
66
- - CMB-exampaper: 测评模型是否通过考试
67
- - 数据: 9小项,25套共6571道题目,详见上图CMB-Exam; [套题目录地址](https://github.com/FreedomIntelligence/CMB/blob/main/exam-catalog.md);
68
 
69
 
70
- ### CMB-main & CME-exampaper Item
71
  ```json
72
  {
73
  "exam_type": "医师考试",
@@ -90,7 +81,7 @@ qa_datasets = load_dataset('FreedomIntelligence/CMB','qa')
90
  - exam_subject: 具体科室或细分学科分类;
91
  - question_type: 只有"单项选择题"和"多项选择题";
92
 
93
- ### CMB-qa Item
94
  ```json
95
  {
96
  "id": "0",
@@ -119,13 +110,10 @@ qa_datasets = load_dataset('FreedomIntelligence/CMB','qa')
119
 
120
 
121
 
122
-
123
  ## ℹ️ 如何进行评测和提交详见[Github官网](https://github.com/FreedomIntelligence/CMB)
124
 
125
  ## To do List
126
- 1. 发布CMB-main 和 CMB-exampaper Few-shot测评结果。
127
- 2. 发布CMB-qa测评结果。
128
- 3. 发布论文报告。
129
 
130
  ## 😘 引用
131
 
 
16
 
17
 
18
 
 
 
 
 
 
19
  ## 🌈 更新
20
 
21
+ * **[2023.08.01]** 🎉🎉🎉 CMB公开!感谢支持~🎉🎉🎉
22
 
23
 
24
 
 
26
 
27
  - 方法一:直接下载使用[zip压缩文件](https://github.com/FreedomIntelligence/CMB/tree/main/data)
28
  - 方法二:使用[Hugging Face datasets](https://huggingface.co/datasets/FreedomIntelligence/CMB)直接加载数据集 示例如下:
29
+ ```python
30
+ from datasets import load_dataset
31
+
32
+ # main datasets (multiple choice)
33
+ main_datasets = load_dataset('FreedomIntelligence/CMB','main')
34
+ # exam paper datasets (multiple choice)
35
+ exam_datasets = load_dataset('FreedomIntelligence/CMB','exampaper')
36
+ # QA datasets
37
+ qa_datasets = load_dataset('FreedomIntelligence/CMB','qa')
38
+ ```
 
39
 
40
 
41
 
42
  ## 🥇 排行榜
43
 
44
+ 我们评估了模型的zero-shot准确率,请访问我们[官方排行榜](https://cmedbenchmark.llmzoo.com/static/leaderboard.html)了解详细结果。
45
 
46
 
47
 
48
  ## 🥸 数据集介绍
49
+ ![CMB](assets/CMB-final.png)
 
50
  ### 组成部分
51
+ - CMB-Exam: 全方位多层次测评模型医疗知识;
52
+ - 结构: 6大项28小项,详见上图CMB-Exam, [目录地址](catalog.md);
53
  - CMB-test: 11200道题目,每一小项400道题目;
54
  - CMB-val: 280道附带详细解析的题目; Few Shot数据集;
55
  - CMB-train: 269359道题目; 模型医疗知识注入;
56
 
57
+ - CME-Clin: 测评复杂临床问诊能力
58
+ - 数据: 74例复杂病例问诊; 详见上图示例;
 
 
59
 
60
 
61
+ ### CMB-Exam Item
62
  ```json
63
  {
64
  "exam_type": "医师考试",
 
81
  - exam_subject: 具体科室或细分学科分类;
82
  - question_type: 只有"单项选择题"和"多项选择题";
83
 
84
+ ### CMB-Clin Item
85
  ```json
86
  {
87
  "id": "0",
 
110
 
111
 
112
 
 
113
  ## ℹ️ 如何进行评测和提交详见[Github官网](https://github.com/FreedomIntelligence/CMB)
114
 
115
  ## To do List
116
+ 1. 发布论文报告。
 
 
117
 
118
  ## 😘 引用
119