Create README.md
Browse files
README.md
ADDED
@@ -0,0 +1,16 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
我们收集了23个常见的中文数据集,对于每个任务,由人工书写若干种指令模板,保证数据的高质量与丰富度,数据量为115万 。数据分布如下图所示:
|
2 |
+
|
3 |
+
<img src="task_distribution.png" width="480">
|
4 |
+
|
5 |
+
再此基础上,我们添加了[Belle-train_0.5M_CN](https://huggingface.co/datasets/BelleGroup/train_0.5M_CN) ,最终得到165万的训练数据。每条数据的格式如下,包含任务类型、输入、目标输出:
|
6 |
+
```json
|
7 |
+
{
|
8 |
+
"kind": "ClassicalChinese",
|
9 |
+
"input": "将下面句子翻译成现代文:\n石中央又生一树,高百余尺,条干偃阴为五色,翠叶如盘,花径尺余,色深碧,蕊深红,异香成烟,著物霏霏。",
|
10 |
+
"target": "大石的中央长着一棵树,一百多尺高,枝干是彩色的,树叶有盘子那样大,花的直径有一尺宽,花瓣深蓝色,花中飘出奇异的香气笼罩着周围,如烟似雾。"
|
11 |
+
}
|
12 |
+
```
|
13 |
+
|
14 |
+
训练数据集的token长度分布如下图所示,绝大部分数据的长度都小于600:
|
15 |
+
|
16 |
+
<img src="len_distribution.png" width="480">
|