更新README
Browse files
README.md
CHANGED
|
@@ -1,3 +1,27 @@
|
|
| 1 |
---
|
| 2 |
license: apache-2.0
|
| 3 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
---
|
| 2 |
license: apache-2.0
|
| 3 |
---
|
| 4 |
+
# Teledata
|
| 5 |
+
|
| 6 |
+
## 数据介绍
|
| 7 |
+
Teledata 是由电信星辰大模型**telechat**预训练语料中抽取出的的综合性大规模中文数据集。数据主要来源于网页、书籍、官方媒体等。 我们使用规则+模型的方式进行了相关的过滤，并对数据进行了相似性去重，尽可能地提取出高质量地数据。
|
| 8 |
+
|
| 9 |
+
Teledata 数据集大约公开了2.7亿条数据，数据由纯中文文本构成构成，原始大小约1TB,压缩后480G，共189个文件。数据集中已经去除了其它冗余信息。
|
| 10 |
+
|
| 11 |
+
## 数据格式
|
| 12 |
+
数据为jsonl格式，仅有一个字段data
|
| 13 |
+
|
| 14 |
+
data: 单条处理后的预训练数据
|
| 15 |
+
|
| 16 |
+
## 数据安全
|
| 17 |
+
数据清洗的工作流程主要是：规则筛选和清洗、去重、高质量数据筛选、数据安全处理这四个步骤。
|
| 18 |
+
|
| 19 |
+
- 规则筛选主要是一些通用的规则和启发式规则，例如对字数长度的筛选等等。
|
| 20 |
+
- 去重主要使用相似度去重来将过于相似重复的数据删除
|
| 21 |
+
-
|
| 22 |
+
|
| 23 |
+
## 使用许可
|
| 24 |
+
|
| 25 |
+
|
| 26 |
+
## 联系我们与论文引用
|
| 27 |
+
|