Datasets:

ArXiv:
License:
HoneyTian commited on
Commit
bd8c85d
1 Parent(s): ca8de5f
Files changed (1) hide show
  1. README.md +4 -1
README.md CHANGED
@@ -17,20 +17,22 @@ license: apache-2.0
17
  | amazon_reviews_multi | [Multilingual Amazon Reviews Corpus](https://github.com/awslabs/open-data-docs/tree/main/docs/amazon-reviews-ml); [2010.02573](https://arxiv.org/abs/2010.02573) | TRAIN: 1191160, VALID: 29665, TEST: 29685 | 我们提出了多语言亚马逊评论语料库 (MARC),这是用于多语言文本分类的大规模亚马逊评论集合。 该语料库包含 2015 年至 2019 年间收集的英语、日语、德语、法语、西班牙语和中文评论。 | [amazon_reviews_multi](https://huggingface.co/datasets/amazon_reviews_multi) |
18
  | xnli | [XNLI](https://github.com/facebookresearch/XNLI); [D18-1269.pdf](https://aclanthology.org/D18-1269.pdf) | TRAIN: 7702055, VALID: 49750, TEST: 100129 | 我们希望我们的数据集 XNLI 能够通过提供信息丰富的标准评估任务来促进跨语言句子理解的研究。 | [xnli](https://huggingface.co/datasets/xnli) |
19
  | stsb_multi_mt | [SemEval-2017 Task 1](https://arxiv.org/abs/1708.00055) | TRAIN: 104117, VALID: 25943, TEST: 22457 | **使用时注意要打乱**。可用语言有:de、en、es、fr、it、nl、pl、pt、ru、zh | [stsb_multi_mt](https://huggingface.co/datasets/stsb_multi_mt) |
20
- | nbnn | [oai-nb-no-sbr-80](https://www.nb.no/sprakbanken/ressurskatalog/oai-nb-no-sbr-80/) | TRAIN: 1556212, VALID: 1957, TEST: 1944 | 该语料库包含挪威电报局 (NTB) 的新闻文本从博克马尔语翻译成新挪威语的内容。 | [NbAiLab/nbnn_language_detection](https://huggingface.co/datasets/NbAiLab/nbnn_language_detection) |
21
 
22
 
23
  语种识别
24
 
25
  | 数据 | 原始数据/项目地址 | 样本个数 | 原始数据描述 | 替代数据下载地址 |
 
26
  | scandi_langid | | TRAIN: 239618, TEST: 59840 | | [kardosdrur/scandi-langid](https://huggingface.co/datasets/kardosdrur/scandi-langid) |
27
  | nordic_langid | [Discriminating Between Similar Nordic Languages](https://aclanthology.org/2021.vardial-1.8/) | TRAIN: 226159, TEST: 10700 | 重点关注六种北欧语言之间的区别:丹麦语、瑞典语、挪威语(尼诺斯克语)、挪威语(博克马尔语)、法罗语和冰岛语。 | [strombergnlp/nordic_langid](https://huggingface.co/datasets/strombergnlp/nordic_langid) |
28
  | mike0307 | [Mike0307/language-detection](https://huggingface.co/datasets/Mike0307/language-detection) | TRAIN: 33095, VALID: 4040, TEST: 4048 | | |
 
29
 
30
 
31
  机器翻译
32
 
33
  | 数据 | 原始数据/项目地址 | 样本个数 | 原始数据描述 | 替代数据下载地址 |
 
34
  | tatoeba | [tatoeba](https://tatoeba.org/); [Tatoeba Paper](https://arxiv.org/abs/1812.10464v2) | TRAIN: 702895 | Tatoeba 是句子和翻译的集合。 | [tatoeba](https://huggingface.co/datasets/tatoeba) |
35
  | bucc2018 | [bucc2018](https://comparable.limsi.fr/bucc2018/bucc2018-task.html) | TRAIN: 2173318, TEST: 2125879 | 共享任务:识别可比语料库中的平行句子,语言:de, en, fr, ru, zh | |
36
  | iwslt2017 | [2017.iwslt-1.1.pdf](https://aclanthology.org/2017.iwslt-1.1.pdf) | 样本个数 | IWSLT 2017 多语言任务解决了文本翻译问题,涵盖英语、德语、荷兰语、意大利语和罗马尼亚语等所有方向。 | [iwslt2017](https://huggingface.co/datasets/iwslt2017) |
@@ -60,6 +62,7 @@ license: apache-2.0
60
  https://opus.nlpl.eu/
61
 
62
  | 数据 | 原始数据/项目地址 | 样本个数 | 原始数据描述 | 替代数据下载地址 |
 
63
  | bible_para | [bible-uedin](https://opus.nlpl.eu/bible-uedin/corpus/version/bible-uedin) | 样本个数 | 这是一个多语言平行语料库,根据 Christos Christodoulopoulos 和 Mark Steedman 编译的圣经翻译创建。 | [bible_para](https://huggingface.co/datasets/bible_para) |
64
  | ecb | [ECB](https://opus.nlpl.eu/ECB/corpus/version/ECB); | 样本个数 | | [ecb](https://huggingface.co/datasets/ecb) |
65
  | emea | [EMEA](https://opus.nlpl.eu/EMEA/corpus/version/EMEA); | 样本个数 | | [emea](https://huggingface.co/datasets/emea) |
 
17
  | amazon_reviews_multi | [Multilingual Amazon Reviews Corpus](https://github.com/awslabs/open-data-docs/tree/main/docs/amazon-reviews-ml); [2010.02573](https://arxiv.org/abs/2010.02573) | TRAIN: 1191160, VALID: 29665, TEST: 29685 | 我们提出了多语言亚马逊评论语料库 (MARC),这是用于多语言文本分类的大规模亚马逊评论集合。 该语料库包含 2015 年至 2019 年间收集的英语、日语、德语、法语、西班牙语和中文评论。 | [amazon_reviews_multi](https://huggingface.co/datasets/amazon_reviews_multi) |
18
  | xnli | [XNLI](https://github.com/facebookresearch/XNLI); [D18-1269.pdf](https://aclanthology.org/D18-1269.pdf) | TRAIN: 7702055, VALID: 49750, TEST: 100129 | 我们希望我们的数据集 XNLI 能够通过提供信息丰富的标准评估任务来促进跨语言句子理解的研究。 | [xnli](https://huggingface.co/datasets/xnli) |
19
  | stsb_multi_mt | [SemEval-2017 Task 1](https://arxiv.org/abs/1708.00055) | TRAIN: 104117, VALID: 25943, TEST: 22457 | **使用时注意要打乱**。可用语言有:de、en、es、fr、it、nl、pl、pt、ru、zh | [stsb_multi_mt](https://huggingface.co/datasets/stsb_multi_mt) |
 
20
 
21
 
22
  语种识别
23
 
24
  | 数据 | 原始数据/项目地址 | 样本个数 | 原始数据描述 | 替代数据下载地址 |
25
+ | :--- | :---: | :---: | :---: | :---: |
26
  | scandi_langid | | TRAIN: 239618, TEST: 59840 | | [kardosdrur/scandi-langid](https://huggingface.co/datasets/kardosdrur/scandi-langid) |
27
  | nordic_langid | [Discriminating Between Similar Nordic Languages](https://aclanthology.org/2021.vardial-1.8/) | TRAIN: 226159, TEST: 10700 | 重点关注六种北欧语言之间的区别:丹麦语、瑞典语、挪威语(尼诺斯克语)、挪威语(博克马尔语)、法罗语和冰岛语。 | [strombergnlp/nordic_langid](https://huggingface.co/datasets/strombergnlp/nordic_langid) |
28
  | mike0307 | [Mike0307/language-detection](https://huggingface.co/datasets/Mike0307/language-detection) | TRAIN: 33095, VALID: 4040, TEST: 4048 | | |
29
+ | nbnn | [oai-nb-no-sbr-80](https://www.nb.no/sprakbanken/ressurskatalog/oai-nb-no-sbr-80/) | TRAIN: 1556212, VALID: 1957, TEST: 1944 | 该语料库包含挪威电报局 (NTB) 的新闻文本从博克马尔语翻译成新挪威语的内容。 | [NbAiLab/nbnn_language_detection](https://huggingface.co/datasets/NbAiLab/nbnn_language_detection) |
30
 
31
 
32
  机器翻译
33
 
34
  | 数据 | 原始数据/项目地址 | 样本个数 | 原始数据描述 | 替代数据下载地址 |
35
+ | :--- | :---: | :---: | :---: | :---: |
36
  | tatoeba | [tatoeba](https://tatoeba.org/); [Tatoeba Paper](https://arxiv.org/abs/1812.10464v2) | TRAIN: 702895 | Tatoeba 是句子和翻译的集合。 | [tatoeba](https://huggingface.co/datasets/tatoeba) |
37
  | bucc2018 | [bucc2018](https://comparable.limsi.fr/bucc2018/bucc2018-task.html) | TRAIN: 2173318, TEST: 2125879 | 共享任务:识别可比语料库中的平行句子,语言:de, en, fr, ru, zh | |
38
  | iwslt2017 | [2017.iwslt-1.1.pdf](https://aclanthology.org/2017.iwslt-1.1.pdf) | 样本个数 | IWSLT 2017 多语言任务解决了文本翻译问题,涵盖英语、德语、荷兰语、意大利语和罗马尼亚语等所有方向。 | [iwslt2017](https://huggingface.co/datasets/iwslt2017) |
 
62
  https://opus.nlpl.eu/
63
 
64
  | 数据 | 原始数据/项目地址 | 样本个数 | 原始数据描述 | 替代数据下载地址 |
65
+ | :--- | :---: | :---: | :---: | :---: |
66
  | bible_para | [bible-uedin](https://opus.nlpl.eu/bible-uedin/corpus/version/bible-uedin) | 样本个数 | 这是一个多语言平行语料库,根据 Christos Christodoulopoulos 和 Mark Steedman 编译的圣经翻译创建。 | [bible_para](https://huggingface.co/datasets/bible_para) |
67
  | ecb | [ECB](https://opus.nlpl.eu/ECB/corpus/version/ECB); | 样本个数 | | [ecb](https://huggingface.co/datasets/ecb) |
68
  | emea | [EMEA](https://opus.nlpl.eu/EMEA/corpus/version/EMEA); | 样本个数 | | [emea](https://huggingface.co/datasets/emea) |