File size: 1,791 Bytes
bef5be5 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 |
import datasets
Features = {}
# 项目早期所使用的数据集字段，后续会在更新过程中逐渐废弃
Features['TEXT_CORPUS_LEGACY'] = datasets.Features(
{
"text": datasets.Value("string"),
"meta": datasets.Value("string")
}
)
# 文本数据集所使用的格式
Features['TEXT_CORPUS'] = datasets.Features(
{
"文件名": datasets.Value("string"),
"是否待查文件": datasets.Value("bool"),
"是否重复文件": datasets.Value("bool"),
"文件大小": datasets.Value("int64"),
"simhash": datasets.Value("string"), # for issue https://github.com/huggingface/datasets/issues/6007
"最长段落长度": datasets.Value("int64"),
"段落数": datasets.Value("int64"),
"去重段落数": datasets.Value("int64"),
"低质量段落数": datasets.Value("int64"),
"段落": [
datasets.Features(
{
"行号": datasets.Value("int64"),
"是否重复": datasets.Value("bool"),
"是否跨文件重复": datasets.Value("bool"),
"md5": datasets.Value("string"),
"内容": datasets.Value("string"),
}
)
]
}
)
# 问答数据所使用的格式
Features['QA_CORPUS'] = datasets.Features(
{
"id": datasets.Value("int64"),
"问": datasets.Value("string"),
"答": datasets.Value("string"),
"来源": datasets.Value("string"),
"元数据": {
"create_time": datasets.Value("string"),
"问题明细": datasets.Value("string"),
"回答明细": datasets.Value("string"),
"扩展字段": datasets.Value("string"),
}
}
)
|