Datasets:
ArXiv:
License:
metadata
license: apache-2.0
语种识别
数据来源
数据集从网上收集整理如下:
数据 | 原始数据/项目地址 | 样本个数 | 原始数据描述 | 替代数据下载地址 |
---|---|---|---|---|
amazon_reviews_multi | Multilingual Amazon Reviews Corpus; 2010.02573 | TRAIN: 1191160, VALID: 29665, TEST: 29685 | 我们提出了多语言亚马逊评论语料库 (MARC),这是用于多语言文本分类的大规模亚马逊评论集合。 该语料库包含 2015 年至 2019 年间收集的英语、日语、德语、法语、西班牙语和中文评论。 | amazon_reviews_multi |
参考来源
参考的数据来源,展开查看
https://huggingface.co/datasets/papluca/language-identification https://huggingface.co/datasets/unklefedor/language-identification