Datasets:
ArXiv:
License:
metadata
license: apache-2.0
语种识别
Tips:
- 语种 zh 代表是中文, 可能是简体, 也可能是繁体. 语种 zh-cn 则代表是简体中文, zh-tw 代表繁体中文.
数据来源
数据集从网上收集整理如下:
多语言语料
| 数据 | 原始数据/项目地址 | 样本个数 | 原始数据描述 | 替代数据下载地址 |
|---|---|---|---|---|
| amazon_reviews_multi | Multilingual Amazon Reviews Corpus; 2010.02573 | TRAIN: 1191160, VALID: 29665, TEST: 29685 | 我们提出了多语言亚马逊评论语料库 (MARC)，这是用于多语言文本分类的大规模亚马逊评论集合。 该语料库包含 2015 年至 2019 年间收集的英语、日语、德语、法语、西班牙语和中文评论。 | amazon_reviews_multi |
| xnli | XNLI; D18-1269.pdf | TRAIN: 7702055, VALID: 49750, TEST: 100129 | 我们希望我们的数据集 XNLI 能够通过提供信息丰富的标准评估任务来促进跨语言句子理解的研究。 | xnli |
| stsb_multi_mt | SemEval-2017 Task 1 | TRAIN: 104117, VALID: 25943, TEST: 22457 | 使用时注意要打乱。可用语言有：de、en、es、fr、it、nl、pl、pt、ru、zh | stsb_multi_mt |
语种识别
| 数据 | 原始数据/项目地址 | 样本个数 | 原始数据描述 | 替代数据下载地址 |
|---|---|---|---|---|
| scandi_langid | TRAIN: 239618, TEST: 59840 | kardosdrur/scandi-langid | ||
| nordic_langid | Discriminating Between Similar Nordic Languages | TRAIN: 226159, TEST: 10700 | 重点关注六种北欧语言之间的区别：丹麦语、瑞典语、挪威语（尼诺斯克语）、挪威语（博克马尔语）、法罗语和冰岛语。 | strombergnlp/nordic_langid |
| mike0307 | Mike0307/language-detection | TRAIN: 33095, VALID: 4040, TEST: 4048 | ||
| nbnn | oai-nb-no-sbr-80 | TRAIN: 1556212, VALID: 1957, TEST: 1944 | 该语料库包含挪威电报局 (NTB) 的新闻文本从博克马尔语翻译成新挪威语的内容。 | NbAiLab/nbnn_language_detection |
机器翻译
| 数据 | 原始数据/项目地址 | 样本个数 | 原始数据描述 | 替代数据下载地址 |
|---|---|---|---|---|
| tatoeba | tatoeba; Tatoeba Paper | TRAIN: 702895 | Tatoeba 是句子和翻译的集合。 | tatoeba |
| bucc2018 | bucc2018 | TRAIN: 2173318, TEST: 2125879 | 共享任务：识别可比语料库中的平行句子，语言：de, en, fr, ru, zh | |
| iwslt2017 | 2017.iwslt-1.1.pdf | 样本个数 | IWSLT 2017 多语言任务解决了文本翻译问题，涵盖英语、德语、荷兰语、意大利语和罗马尼亚语等所有方向。 | iwslt2017 |
| open_subtitles | L16-1147.pdf | 样本个数 | 我们推出了平行语料库 OpenSubtitles 集合的新主要版本。 该版本由大型电影和电视字幕数据库编译而成，共包含 1689 个双文本，涵盖 60 种语言的 26 亿个句子。 该版本还包含了字幕预处理和对齐方面的许多增强功能，例如自动更正 OCR 错误以及使用元数据来估计每个字幕的质量并对字幕对进行评分。 | open_subtitles |
| bsd_ja_en | 2008.01940v1 | 样本个数 | 尽管由于并行语料库和基于语料库的训练技术的可用性不断增加，书面文本的机器翻译在过去几年中取得了长足的进步，但即使对于现代系统，口语文本和对话的自动翻译仍然具有挑战性。 在本文中，我们的目标是通过引入新构建的日语-英语商务会话平行语料库来提高会话文本的机器翻译质量。 | bsd_ja_en |
| autshumato | 样本个数 | Autshumato 项目的目标之一是开发三种南非语言对的机器翻译系统。 | autshumato | |
| chr_en | 2010.04791 | 样本个数 | ChrEn 是切罗基语-英语并行数据集，用于促进切罗基语和英语之间的机器翻译研究。 ChrEn 资源极少，总共包含 14k 个句子对，其分割方式有利于域内和域外评估。 ChrEn 还包含 5k 切罗基语单语数据以实现半监督学习。 | chr_en |
| cmu_hinglish_dog | CMU_DoG; 1809.07358 | 样本个数 | 这是印度英语（印地语-英语之间的代码混合）文本对话及其相应的英语版本的集合。 可用于两者之间的翻译。 该数据集由 CMU 的 Alan Black 教授团队提供。 | cmu_hinglish_dog |
| europa_eac_tm | EAC-Translation Memory | 样本个数 | 该数据集是从英语到多达 25 种语言的手动翻译的语料库，由欧盟教育和文化总局 (EAC) 于 2012 年发布。 | europa_eac_tm |
| europa_ecdc_tm | ECDC-Translation Memory | 样本个数 | 2012 年 10 月，欧盟 (EU) 机构“欧洲疾病预防和控制中心”(ECDC) 发布了翻译记忆库 (TM)，即 25 种语言的句子及其专业翻译的集合。 | europa_ecdc_tm |
| flores | 1902.01382 | 样本个数 | 低资源机器翻译的评估数据集：尼泊尔语-英语和僧伽罗语-英语。 | flores |
| giga_fren | 样本个数 | giga_fren | ||
| hind_encorp | HindEnCorp | 样本个数 | HindEnCorp 并行文本（句子对齐）来自以下来源：Tides，其中包含主要取自新闻文章的 50K 句对。 该数据集最初是为 2002 年 DARPA-TIDES 惊喜语言竞赛收集的，后来在 IIIT 海得拉巴进行了完善，并提供给 ICON 2008 的 NLP 工具竞赛（Venkatapathy，2008）。 | hind_encorp |
| hrenwac_para | 样本个数 | hrenWaC 语料库版本 2.0 由从克罗地亚 .hr 顶级域爬取的并行克罗地亚语-英语文本组成。 | hrenwac_para | |
| id_panl_bppt | 样本个数 | BPPT（印度尼西亚技术评估和应用机构）为 PAN 本地化项目（发展亚洲本地语言计算能力的区域性倡议）创建的多域翻译系统并行文本语料库。 该数据集包含大约 24K 个句子，分为 4 个不同主题（经济、国际、科学技术和体育）。 | id_panl_bppt | |
| igbo | Igbo-English Machine Translation | 样本个数 | 在这项工作中，我们讨论了为伊博语（尼日利亚三种主要语言之一）构建标准机器翻译基准数据集所做的努力。 | igbo_english_machine_translation |
| menyo20k_mt | menyo20k_mt | 样本个数 | MENYO-20k 是一个多域并行数据集，其中的文本来自新闻文章、ted 演讲、电影文字记录、广播文字记录、科技文本以及其他由网络和专业翻译人员策划的短文。 | menyo20k_mt |
| multi_para_crawl | ParaCrawl; paracrawl.eu; MultiParaCrawl | 我们报告了使用开源软件通过抓取网络来创建最大的公开可用并行语料库的方法。 | multi_para_crawl | |
| para_crawl | ParaCrawl | 样本个数 | 欧洲官方语言的网络规模并行语料库。 | para_crawl |
| para_pat | ParaPat; Homepage | 样本个数 | ParaPat：专利摘要的数百万个句子平行语料库 | para_pat |
| pib | CVIT-PIB | 样本个数 | 该数据集是 11 种印度语言的大规模句子对齐语料库，即： CVIT-PIB 语料库是印度语言可用的最大多语言语料库。 | pib |
| poleval2019_mt | 样本个数 | PolEval 是一项受 SemEval 启发的波兰语自然语言处理工具评估活动。 | poleval2019_mt |
机器翻译
| 数据 | 原始数据/项目地址 | 样本个数 | 原始数据描述 | 替代数据下载地址 |
|---|---|---|---|---|
| bible_para | bible-uedin | 样本个数 | 这是一个多语言平行语料库，根据 Christos Christodoulopoulos 和 Mark Steedman 编译的圣经翻译创建。 | bible_para |
| ecb | ECB; | 样本个数 | ecb | |
| emea | EMEA; | 样本个数 | emea | |
| kde4 | KDE4; apps.kde.org; opus.nlpl.eu | 样本个数 | kde4 | |
| php | PHP | 样本个数 | 最初从 http://se.php.net/download-docs.php 中提取的并行语料库。该语料库相当嘈杂。 | php |
各数据集详细统计信息
amazon_reviews_multi
以下都是 train 训练集的信息
语种数量：
ja: 199797
en: 199426
de: 199141
fr: 198272
es: 198264
zh-cn: 196260
样本示例：
| 数据 | 语种 | 样本 |
|---|---|---|
| amazon_reviews_multi | de | Armband ist leider nach 1 Jahr kaputt gegangen |
| amazon_reviews_multi | de | In der Lieferung war nur Ein Akku! |
| amazon_reviews_multi | de | Ein Stern, weil gar keine geht nicht. Es handelt sich um gebraucht Waren, die Stein haben so ein Belag drauf, wo man sich dabei denken kann, dass jemand schon die benutzt und nicht Mal richtig gewaschen. Bei ein paar ist die Qualität Mangelhaft, siehe Bild. Ein habe ich ausprobiert, richtig gewaschen, dann verfärbt sich..... Wärme halt nicht lange. Deswegen wird es zurückgeschickt. |
| amazon_reviews_multi | en | Arrived broken. Manufacturer defect. Two of the legs of the base were not completely formed, so there was no way to insert the casters. I unpackaged the entire chair and hardware before noticing this. So, I'll spend twice the amount of time boxing up the whole useless thing and send it back with a 1-star review of part of a chair I never got to sit in. I will go so far as to include a picture of what their injection molding and quality assurance process missed though. I will be hesitant to buy again. It makes me wonder if there aren't missing structures and supports that don't impede the assembly process. |
| amazon_reviews_multi | en | the cabinet dot were all detached from backing... got me |
| amazon_reviews_multi | en | I received my first order of this product and it was broke so I ordered it again. The second one was broke in more places than the first. I can't blame the shipping process as it's shrink wrapped and boxed. |
| amazon_reviews_multi | es | Nada bueno se me fue ka pantalla en menos de 8 meses y no he recibido respuesta del fabricante |
| amazon_reviews_multi | es | Horrible, nos tuvimos que comprar otro porque ni nosotros que sabemos inglés, ni un informático, después de una hora fue capaz de instalarlo |
| amazon_reviews_multi | es | Te obligan a comprar dos unidades y te llega solo una y no hay forma de reclamar, una autentica estafa, no compreis!! |
| amazon_reviews_multi | fr | A déconseiller - Article n'a fonctionné qu'une fois - Je ne recommande pas du tout ce produit - Je l'ai jeté ... |
| amazon_reviews_multi | fr | Si vous voulez être déçu achetez le produit ! Au bout de 3 utilisation ne fonctionne plus.. Je ne recommande pas du tout sauf si vous voulez acheter un thermomètre quelques jours après avoir acheté celui ci ! |
| amazon_reviews_multi | fr | Écran de mauvaise qualité, car il s'use en peu de temps et croche. Dommage j'aimais bien car peu de traces de doigts. |
| amazon_reviews_multi | ja | 普段使いとバイクに乗るときのブーツ兼用として購入しました。見た目や履き心地は良いです。 しかし、２ヶ月履いたらゴム底が削れて無くなりました。また、バイクのシフトペダルとの摩擦で表皮が剥がれ、本革でないことが露呈しました。ちなみに防水とも書いていますが、雨の日は内部に水が染みます。 安くて見た目も良く、履きやすかったのですが、耐久性のなさ、本革でも防水でも無かったことが残念です。結局、本革の防水ブーツを買い直しました。 |
| amazon_reviews_multi | ja | 十分な在庫を用意できない販売元も悪いですが、Amazonやら楽⚪︎が転売を認めちゃってるのが結果的に転売の後押しになっちゃってるんだよなぁ… Amazonもここぞとばかりに抱き合わせ販売しまくるし… それを恥ずかしいと思えなくなったら動物と同じですよ、最大手さん。 |
| amazon_reviews_multi | ja | 見た目はかなりおしゃれで気に入りました。2、3回持ち歩いた後いつも通りゼンマイを巻いていたら突然空回り。 針の調整はできるけど、つまみをあげても下げてもゼンマイを巻くことができず。 時計屋に持って行って中を開けてもらったら、中のケースと外側の規格がそもそも合っていないため、固定されず、一度ズレると噛み合わなくなるんだそう。 返品して交換した方がいいと言われましたが、保証書付いてないし、 クーリングオフ期間もとっくに過ぎています。 アンティーク感覚で家で放置するならおススメですが、 本来の用途としては全く使えません。 ご注意を。 |
| amazon_reviews_multi | zh-cn | 本人账号被盗，资金被江西（杨建）挪用，请亚马逊尽快查实，将本人的200元资金退回。本人已于2017年11月30日提交退货申请，为何到2018年了还是没解决？亚马逊是什么情况？请给本人一个合理解释。 |
| amazon_reviews_multi | zh-cn | 这简直就是太差了！出版社怎么就能出版吗？我以为是百度摘录呢！这到底是哪个鱼目混珠的教授啊？！能给点干货吗？！总算应验了一句话，一本书哪怕只有一句花你感到有意义也算是本好书。哇为了找这本书哪怕一句不是废话的句子都费了我整整一天时间。。 |
| amazon_reviews_multi | zh-cn | 购买页面显示1～2日发货，付款之后显示半个月后送达，实际收到商品距离下单日期已经一个多月。 无力吐槽，一星是给商品的。 |
文本长度
10-20: 1369
20-30: 115334
30-40: 105600
40-50: 85175
50-60: 71594
60-70: 61376
70-80: 54223
80-90: 48242
90-100: 44592
100-110: 45839
110-120: 48721
120-130: 47604
130-140: 43195
140-150: 37601
150-160: 32483
160-170: 28876
170-180: 25260
180-190: 22971
190-200: 20743
200-210: 250362
文本长度统计图像：
bucc2018
以下都是 train 训练集的信息
语种数量：
en: 935829
ru: 459415
de: 412895
fr: 270768
zh: 94411
样本示例：
| 数据 | 语种 | 样本 |
|---|---|---|
| bucc2018 | de | Einen weiteren Oscar erhielt er 2013 für seine Regiearbeit an "". |
| bucc2018 | de | Seine Eltern, Emigranten aus China, lernten sich in Taiwan kennen, Lee ist ihr ältester Sohn. |
| bucc2018 | de | Die Großeltern väterlicher- und mütterlicherseits sind im Zuge der kommunistischen Revolution in China ums Leben gekommen. |
| bucc2018 | en | Other data that are used included Bragg diffraction data for crystalline materials, and EXAFS data. |
| bucc2018 | en | The comparison with experiment is quantified using a function of the form |
| bucc2018 | en | Moreover, the move may also be rejected if it breaks certain constraints, even if the agreement with data is improved. |
| bucc2018 | fr | Il peut être divisé en trois zones en fonction du relief, du climat, du peuplement et de l'économie: |
| bucc2018 | fr | En 1877, 55 communes n’avaient pour seul accès que des sentiers ou des chemins muletiers. |
| bucc2018 | fr | Généralement, il ne cause pas de dommages à la flore, mais il peut introduire des parasites dans les poumons des moutons. |
| bucc2018 | ru | На севере граничит с Латвией, на юго-востоке — с Белоруссией, на юго-западе — c Польшей и Калининградской областью России. |
| bucc2018 | ru | Член ООН с 1991 года, ЕС и НАТО — с 2004 года. |
| bucc2018 | ru | Поля и луга занимают 57 % территории, леса и кустарники — 30 %, болота — 3 %, внутренние воды — 4 %. |
| bucc2018 | zh | 中國古代稱輿地，地理則是指風水學。 |
| bucc2018 | zh | 1902年，光緒皇帝接受吏部尚書張百熙建議，頒佈〈欽定學堂章程〉，其中尋常小學課目中，有史學、輿地二項。 |
| bucc2018 | zh | 張百熙派吳汝綸赴日本考察教育後，1903年，負責教育改革的張百熙、張之洞、榮慶向皇帝建議重訂學堂章程。 |
文本长度
10-20: 9687
20-30: 25319
30-40: 25872
40-50: 20904
50-60: 33536
60-70: 94395
70-80: 193311
80-90: 263914
90-100: 295448
100-110: 301739
110-120: 280729
120-130: 233477
130-140: 168259
140-150: 105622
150-160: 61119
160-170: 32300
170-180: 15742
180-190: 7148
190-200: 2926
200-210: 1871
文本长度统计图像：
mike0307
以下都是 train 训练集的信息
语种数量：
es: 3436
pl: 3370
en: 3354
zh-tw: 3338
fr: 3325
pt: 3280
it: 3274
de: 3269
nl: 3233
ru: 3216
样本示例：
| 数据 | 语种 | 样本 |
|---|---|---|
| mike0307 | pt | Fluoretos binários de metalóides e não-metais de bloco p são geralmente covalentes e voláteis, com reatividade variável, e não-metais de estágio 3 e mais pesados podem formar fluoretos hipervalentes. |
| mike0307 | pt | Ter sistemas de armas nucleares em alerta máximo aumenta o risco de utilização destas armas, inclusive inadvertidamente, com consequências catastróficas. |
| mike0307 | pt | O castelo foi remodelado duas vezes: primeiro no século XV e novamente no século XIX, após ter sido parcialmente destruído. |
| mike0307 | pl | Policja w Birmie postawiła Aung San Suu Kyi dwa kolejne zarzuty |
| mike0307 | pl | Kobieta trzyma w ramionach małego kangura. |
| mike0307 | pl | Do jakiego miasta należy Wudi? |
| mike0307 | ru | Взрыв 74+19+16! Дюрэнт и Харден сошли с ума, оба установили рекорды, а «Нетс» обыграли «Мэджик» |
| mike0307 | ru | 13. Каково настоящее имя известного писателя Лао Шэ? |
| mike0307 | ru | [Выход на массовый рынок в Новом году] Во время Весеннего фестиваля кассовые сборы фильма в округе Гангу достигли 1 миллиона юаней. |
| mike0307 | nl | Ze had slechts één voorwaarde: dat het boek pas na haar dood zou worden gepubliceerd. |
| mike0307 | nl | Narendra Modi belooft een harde houding tegenover Pakistan |
| mike0307 | nl | Leen het niet |
| mike0307 | en | Kang Young-hoon (,), South Korean Army Lieutenant General, Ambassador to foreign countries, and Prime Minister of South Korea. He served from December 5, 1988 to December 27, 1990, and served as the interim Prime Minister of South Korea until December 16, 1988. He was born in Changseong County, North Pyongan Province during the Japanese colonial period. Originally from Jinzhou (), his name was Qingnong (). Graduated from Yongbyon Agricultural High School in 1936 and Hiroshima Higher Normal University in 1940. Later, he studied in Manzhou and was admitted to the Department of Economics of Jianguo University. On May 1, 1946, he became the first batch of students of the Military English School and participated in the Korean War. In 1951, he served as the manager and director of the Ministry of Defense of South Korea. In 1952, he served as the military attache of the Korean Embassy in the United States. In 1954, he served as the chief of the Joint Staff Headquarters with the rank of major general. In 1955, he served as the assistant undersecretary for mobilization of the Ministry of National Defense. In 1956, he served as the manager of the Army Headquarters. Deputy Chief of Staff, from 1958 to further training, appointed in 1959. He served as the principal of the Army Military Academy in 1960, but because he opposed the participation of military academy students in demonstrations in support of the May 16th coup, he was imprisoned in Seodaemun Prison as the "number one counterrevolutionary general" (). He was released from prison in 1961 and retired with the rank of Army Lieutenant General. In 1970, he went to the University of Southern California to study abroad and received a doctorate in political science. In early 1978, he joined the Ministry of Foreign Affairs as the Dean of Diplomatic and Security Research Fellows. On January 13, 1981, he was concurrently appointed as Ambassador of Ireland (until 1984) and Ambassador to the Vatican (1985 to 1987). On April 26, 1988, he was elected to the 13th General Election. He was elected as a member of the National Assembly (May to December 1988). He was appointed as the 21st Prime Minister on December 16 of the same year and resigned in 1990. Died on May 10, 2016. |
| mike0307 | en | The S&P 500 index .SPX closed down 11.91 points, or 1.19%, at 986.60 points; |
| mike0307 | en | Tony Estanguet (Tony Estanguet,) is a French male canoe slalom athlete who won the gold medal in the single event at the 2000 Summer Olympics, 2004 Summer Olympics and 2012 Summer Olympics. Tony is the son of kayaker Henri Estrangay, who won a world championship medal in the 1970s. His older brother, Patrice Estangay [1996 Summer Olympics |
| mike0307 | es | ¿Por qué la deducción no tiene éxito? El saldo es suficiente |
| mike0307 | es | ¿Cómo quitar la pintura de la ropa? |
| mike0307 | es | Peter conocía a Brewster, que era amigo del padre de Peter. |
| mike0307 | fr | Il a désormais été remplacé par Bing. |
| mike0307 | fr | Manifestations cliniques du pied diabétique |
| mike0307 | fr | Veuillez fournir votre numéro de téléphone portable. Merci pour votre travail acharné. |
| mike0307 | de | Schwarzflossenbarrakuda (wissenschaftlicher Name:), auch Schwarzflossenbarrakuda genannt, allgemein bekannt als Nadelschiffchen, Bambusschiffchen und Barrakuda, ist einer der Rochenfische in der Ordnung Perciformes, der Unterordnung Mackerelidae und der Familie Barracuda. Dieser Fisch ist in der indopazifischen Region verbreitet, einschließlich Südafrika, Ostafrika, dem Roten Meer, den Seychellen, den Malediven, Taiwan, Japan, Malaysia, Indonesien, Kambodscha, Australien, Samoa, Guam, Tonga und den Marshallinseln und Mikronesien. Rumänien, Hawaii-Inseln, Neukaledonien, Französisch-Polynesien, Mexiko und andere Gewässer. Die Typuslokalität dieser Art ist Nagasaki, Japan. Die Wassertiefe beträgt 40 bis 70 Meter. Der Körper dieses Fisches ist länglich und torpedoförmig, mit einem fast zylindrischen Querschnitt. Die Anzahl der Seitenschuppen beträgt mehr als 100, und es gibt keine verlängerten Kiemenräumer. Der Ansatzpunkt der Bauchflosse liegt vor der Vertikalen Linie des Ausgangspunkts der Rückenflosse. Die Augen sind gleich groß und der Kopf ist etwa sechsmal länger. , Die Brustflosse hat keinen großen schwarzen Fleck und der ㄍ-förmige Streifen erstreckt sich von der Rückseite des Körpers bis etwas unterhalb des Seitenlinienfetts. Die Bauchflosse ist schwarz und der Oberkiefer reicht nicht bis zum Augenrand. Die Rückenflosse hat 6 harte Stacheln; die Rückenflosse hat 9 weiche Strahlen; die Afterflosse hat 2 harte Stacheln; die Afterflosse hat 7 bis 9 weiche Strahlen und die Körperlänge kann 170 cm erreichen. Dieser Fisch bewohnt Lagunen und Küstenriffgebiete. Sie bewegen sich in Gruppen, sind tagsüber aktiv und schwimmen schnell. Sie sind wandernde, fleischfressende Fische, die sich von Fischen, Kopffüßern usw. ernähren. Es ist ein Speisefisch mit köstlichem Fleisch, der sich zum Schmoren, Braten oder Zubereiten von Suppen eignet. |
| mike0307 | de | Ein Mann hackt Pfeffer. |
| mike0307 | de | Colombres ist eine der drei Diözesen (Verwaltungsbezirke) von Asturien, einer Stadt in der Autonomen Gemeinschaft Ribadedeva in der Provinz Nordspanien. |
| mike0307 | zh-tw | 您那個是哪家的銀行卡？ |
| mike0307 | zh-tw | 女性幾乎總是女性 - 男性護士並不常見，特別是在高級職位上。 |
| mike0307 | zh-tw | 使氣體液化有哪些方法？ |
| mike0307 | it | Che marca di giacca di pelle è buona? |
| mike0307 | it | La Russia ha ratificato la versione rivista del trattato. |
| mike0307 | it | Un uomo sta sciando in montagna con un cane. |
文本长度
0-10: 591
10-20: 1700
20-30: 2526
30-40: 3559
40-50: 3495
50-60: 3038
60-70: 2324
70-80: 1927
80-90: 1576
90-100: 1383
100-110: 1271
110-120: 1099
120-130: 985
130-140: 903
140-150: 719
150-160: 625
160-170: 496
170-180: 326
180-190: 249
190-200: 164
200-210: 4139
文本长度统计图像：
nbnn
以下都是 train 训练集的信息
语种数量：
no-n: 778247
no-b: 777965
样本示例：
| 数据 | 语种 | 样本 |
|---|---|---|
| nbnn | no-b | – Det har vært en glede og en ære å representere Telemark på Stortinget, men jeg har varslet valgkomiteen om at jeg ikke stiller meg til disposisjon for neste periode. |
| nbnn | no-b | To klassetrinn ved Hedrum barneskole er satt i ventekarantene |
| nbnn | no-b | Planen er at jeg skal være der til neste år også. |
| nbnn | no-n | Han seier til Adresseavisen |
| nbnn | no-n | Kvotane i 2014 er reduserte med vel 200.000 tonn frå 2013 på grunn av framleis svak rekruttering og små årsklasser etter 2004. |
| nbnn | no-n | Mistanken er basert på at det er oppdaga mange svake og døde fjørfe i besetninga |
文本长度
0-10: 5556
10-20: 25148
20-30: 46278
30-40: 79125
40-50: 112309
50-60: 123719
60-70: 125569
70-80: 126520
80-90: 122251
90-100: 115816
100-110: 108365
110-120: 97733
120-130: 86840
130-140: 75411
140-150: 65692
150-160: 55824
160-170: 40693
170-180: 32009
180-190: 25787
190-200: 20289
200-210: 65278
文本长度统计图像：
nordic_langid
以下都是 train 训练集的信息
语种数量：
no-b: 44542
no-n: 43244
sv: 43074
da: 37544
is: 33948
fo: 23807
样本示例：
| 数据 | 语种 | 样本 |
|---|---|---|
| nordic_langid | no-n | jackson er anerkjent som den mest suksessrike artisten gjennom tidene av guinness world records og er blitt betegnet som kongen av pop |
| nordic_langid | no-n | selv om forjekslene ikke har den samme kompliserte bygningen som jekslene har de vanligvis flere spisser og kan ha doble røtter |
| nordic_langid | no-n | yagua har fem distinksjoner i fortid og to i framtid fjern fortid ett år siden en måned siden ei uke siden i dag i går nå umiddelbar framtid framtid norsk har et tredelt system som skiller mellom presens nåtid preteritum fortid og futurum framtid |
| nordic_langid | sv | gróa var den norrøne gro den gammaldanske og groa den gammalsvenske forma av namnet |
| nordic_langid | sv | i klarte sjakkstormeister vladimir kramnik å slå kasparov i vm kamp i london med sigrar og remisar garri kasparov var rekna som den sterkaste sjakkspelaren i verda også etter at han miste vm tittelen |
| nordic_langid | sv | gentrifisering sett søkelyset på prisen på husvære særleg husleiga når prisane gjer at folk med låge inntekter må flytta |
| nordic_langid | fo | tváttarbjørn dugir væl at klintra í trøum og er kvik á føti |
| nordic_langid | fo | smith er giftur við jada pinkett smith og er pápi willow smith og jaden smith |
| nordic_langid | fo | hann var kendastur fyri sítt arbeiði í it s garry shandling s show og the larry sanders show ushuaia er tann syðsti býurin i heiminum |
| nordic_langid | no-b | efter et par år at have været underofficer blev han fænrik ved |
| nordic_langid | no-b | fortlages vigtigste skrifter er genetische geschichte der philosophie seit kant |
| nordic_langid | no-b | hvis følgeanmodningen automatisk godkendes har din bruger nu fået følgestatus medlemstatus eller forbindelsesstatus vent på at nogen i gruppen eller på siden enten godkender eller ikke godkender anmodningen |
| nordic_langid | da | edie talar inn á þættina look into their eyes og you see what the know eftir dauða hennar þáttaröðin fékk minnsta áhorf sem þættirnir hafa fengið |
| nordic_langid | da | eyjarnar eru talsins og þar af byggðar |
| nordic_langid | da | þessi bergtegund finnst ekki á íslandi gráspör fræðiheiti passer domesticus er fugl af spörvaætt |
| nordic_langid | is | sjön har en area på kvadratkilometer och ligger meter över havet vietnamocalamus catbaensis är en gräsart som beskrevs av to quyen nguyen |
| nordic_langid | is | den varmaste månaden är juli då medeltemperaturen är c och den kallaste är januari med c |
| nordic_langid | is | ett tropiskt höglandsklimat råder i trakten |
文本长度
0-10: 65
10-20: 6477
20-30: 9545
30-40: 9746
40-50: 11056
50-60: 12141
60-70: 14824
70-80: 16952
80-90: 15225
90-100: 14171
100-110: 12428
110-120: 11461
120-130: 10529
130-140: 9484
140-150: 8944
150-160: 7884
160-170: 7067
170-180: 6538
180-190: 5860
190-200: 5254
200-210: 30508
文本长度统计图像：
scandi_langid
以下都是 train 训练集的信息
语种数量：
sv: 79928
no: 79846
da: 79844
样本示例：
| 数据 | 语种 | 样本 |
|---|---|---|
| scandi_langid | no | Det høres flott ut, men hvem sa at det skal være lett? |
| scandi_langid | no | Malla, vil du gifte deg med meg? |
| scandi_langid | no | Må jeg gå helt tilbake for å hente den? |
| scandi_langid | da | -Jeg er ikke bøsse. -Han kaldte os ikke ved navn... |
| scandi_langid | da | Så længe det er en forretning, vil også Internettet blive brugt til det, fordi Internettet er en ekstra hjælp: Det dækker nemlig over, hvem der er forbruger, og det gør i højeste grad udbyderne anonyme. |
| scandi_langid | da | Det er ikke noget nyt, det er ikke nye uoverensstemmelser, vi har nu. |
| scandi_langid | sv | Irland och Storbritannien som har hävdat sin rätt att inte vilja vara med, vilket har medgetts i avtalen, utgör ett anmärkningsvärt undantag. |
| scandi_langid | sv | Om vi även i fortsättningen dumpar produkter med hjälp av miljardbelopp, förstörs denna utveckling även i fortsättningen, och det kommer att inträffa många nedläggningar på grund av sociala och ekologiska skäl. |
| scandi_langid | sv | En del av unionens medlemsländer, inklusive mitt eget land, har hela tiden haft diplomatiska förbindelser med Demokratiska folkrepubliken Korea, andra har nyligen bestämt sig för att upprätta förbindelser medan ytterligare en grupp väntar på att fatta ett beslut om att upprätta förbindelser. |
文本长度
0-10: 27
10-20: 348
20-30: 14062
30-40: 40560
40-50: 29088
50-60: 23904
60-70: 18662
70-80: 12070
80-90: 9335
90-100: 8702
100-110: 7974
110-120: 7335
120-130: 6829
130-140: 6289
140-150: 5694
150-160: 5345
160-170: 4730
170-180: 4369
180-190: 3969
190-200: 3607
200-210: 26719
文本长度统计图像：
stsb_multi_mt
以下都是 train 训练集的信息
语种数量：
en: 10536
pt: 10462
it: 10454
es: 10437
nl: 10425
de: 10413
fr: 10380
zh-cn: 10358
pl: 10338
ru: 10314
样本示例：
| 数据 | 语种 | 样本 |
|---|---|---|
| stsb_multi_mt | de | Ein Flugzeug hebt gerade ab. |
| stsb_multi_mt | de | Ein Mann spielt eine große Flöte. |
| stsb_multi_mt | de | Ein Mann spielt eine Flöte. |
| stsb_multi_mt | en | A plane is taking off. |
| stsb_multi_mt | en | An air plane is taking off. |
| stsb_multi_mt | en | A man is playing a large flute. |
| stsb_multi_mt | es | Un avión está despegando. |
| stsb_multi_mt | es | Un hombre está tocando una gran flauta. |
| stsb_multi_mt | es | Un hombre está tocando una flauta. |
| stsb_multi_mt | fr | Un avion est en train de décoller. |
| stsb_multi_mt | fr | Un homme joue d'une grande flûte. |
| stsb_multi_mt | fr | Un homme joue de la flûte. |
| stsb_multi_mt | it | Un aereo sta decollando. |
| stsb_multi_mt | it | Un uomo sta suonando un grande flauto. |
| stsb_multi_mt | it | Un uomo sta suonando un flauto. |
| stsb_multi_mt | nl | Er gaat een vliegtuig opstijgen. |
| stsb_multi_mt | nl | Een man speelt een grote fluit. |
| stsb_multi_mt | nl | Een man speelt fluit. |
| stsb_multi_mt | pl | Samolot wystartował. |
| stsb_multi_mt | pl | Człowiek gra na dużym flecie. |
| stsb_multi_mt | pl | Człowiek gra na flecie. |
| stsb_multi_mt | pt | Um avião está a descolar. |
| stsb_multi_mt | pt | Um avião aéreo está a descolar. |
| stsb_multi_mt | pt | Um homem está a tocar uma grande flauta. |
| stsb_multi_mt | ru | Самолет взлетает. |
| stsb_multi_mt | ru | Взлетает самолет. |
| stsb_multi_mt | ru | Человек играет на большой флейте. |
| stsb_multi_mt | zh-cn | 一架飞机正在起飞。 |
| stsb_multi_mt | zh-cn | 一个男人正在吹一支大笛子。 |
| stsb_multi_mt | zh-cn | 一个人在吹笛子。 |
文本长度
0-10: 1025
10-20: 6326
20-30: 8096
30-40: 14187
40-50: 16517
50-60: 15156
60-70: 11326
70-80: 7522
80-90: 4780
90-100: 3399
100-110: 2746
110-120: 2310
120-130: 1993
130-140: 1635
140-150: 1307
150-160: 1256
160-170: 1084
170-180: 860
180-190: 687
190-200: 521
200-210: 1384
文本长度统计图像：
stsb_multi_mt
以下都是 train 训练集的信息
语种数量：
ru: 169271
fr: 153806
eo: 84013
nl: 75947
pt: 64838
es: 64595
mr: 51807
en: 35522
gl: 3096
样本示例：
| 数据 | 语种 | 样本 |
|---|---|---|
| tatoeba | en | Today is June 18th and it is Muiriel's birthday! |
| tatoeba | en | Muiriel is 20 now. |
| tatoeba | en | The password is "Muiriel". |
| tatoeba | mr | आज १८ जून आहे व आज म्यूरिएलचा वाढदिवस आहे! |
| tatoeba | mr | म्यूरिएल आता २० वर्षांची आहे. |
| tatoeba | mr | पासवर्ड "Muiriel" आहे. |
| tatoeba | eo | Ĉu vi dezirus havi tason da kafo? |
| tatoeba | eo | Ĉu vi volas tason da kafo? |
| tatoeba | eo | Ĉu vi deziras tason da kafo? |
| tatoeba | nl | Wilt u een kopje koffie? |
| tatoeba | nl | Hoe oud bent u? |
| tatoeba | nl | We houden niet van regen. |
| tatoeba | es | ¿Qué estás haciendo? |
| tatoeba | es | ¡Feliz cumpleaños, Muiriel! |
| tatoeba | es | La contraseña es "Muiriel". |
| tatoeba | gl | Que andas a facer? |
| tatoeba | gl | Feliz aniversario, Muiriel! |
| tatoeba | gl | O contrasinal é "Muiriel". |
| tatoeba | pt | Vamos tentar alguma coisa! |
| tatoeba | pt | Vamos tentar algo! |
| tatoeba | pt | Preciso ir dormir. |
| tatoeba | fr | Pour une fois dans ma vie je fais un bon geste... Et ça ne sert à rien. |
| tatoeba | fr | Lorsqu'il a demandé qui avait cassé la fenêtre, tous les garçons ont pris un air innocent. |
| tatoeba | fr | Je ne supporte pas ce type. |
| tatoeba | ru | Один раз в жизни я делаю хорошее дело... И оно бесполезно. |
| tatoeba | ru | Когда он спросил, кто разбил окно, все мальчики приняли невинный вид. |
| tatoeba | ru | Я не переношу этого типа. |
文本长度
0-10: 5303
10-20: 111682
20-30: 239994
30-40: 182232
40-50: 89407
50-60: 37804
60-70: 16780
70-80: 8054
80-90: 4099
90-100: 2395
100-110: 1413
110-120: 911
120-130: 647
130-140: 477
140-150: 372
150-160: 255
160-170: 188
170-180: 133
180-190: 134
190-200: 116
200-210: 499
文本长度统计图像：
xnli
以下都是 train 训练集的信息
语种数量：
en: 518657
th: 517015
hi: 516809
de: 516390
es: 516072
vi: 515983
tr: 515740
bg: 515224
el: 515126
fr: 515074
sw: 514850
ru: 514849
ar: 514663
zh-cn: 514160
ur: 481443
样本示例：
| 数据 | 语种 | 样本 |
|---|---|---|
| xnli | ar | المنتج والجغرافيا هو ما يجعل كريم القشط العمل . |
| xnli | ar | - و قد ال كريم المفاهيمية اثنان اساسيين - المنتج والجغرافيا . |
| xnli | ar | انت تفقد الاشياء الى المستوى التالي اذا كان الناس يتذكرون . |
| xnli | bg | продукт и география са това , което прави крем краде работа . |
| xnli | bg | концептуално крем краде има две основни измерения - продукт и география . |
| xnli | bg | губиш нещата на следното ниво , ако хората си припомнят . |
| xnli | de | Produkt und Geographie sind das , was creme abschöpfen Arbeit macht . |
| xnli | de | Konzeptionell cream abschöpfen hat zwei grundlegende Dimensionen - Produkt und Geographie . |
| xnli | de | Man verliert die Dinge auf die folgende Ebene , wenn sich die Leute erinnern . |
| xnli | el | Το προϊόν και η γεωγραφία είναι αυτά που κάνουν την κρέμα να κλέβει . |
| xnli | el | Η εννοιολογικά κρέμα κρέμα έχει δύο βασικές διαστάσεις - προϊόν και γεωγραφία . |
| xnli | el | Χάνεις τα πράγματα στο επόμενο επίπεδο , αν οι άνθρωποι θυμούνται . |
| xnli | en | Product and geography are what make cream skimming work . |
| xnli | en | Conceptually cream skimming has two basic dimensions - product and geography . |
| xnli | en | You lose the things to the following level if the people recall . |
| xnli | es | El producto y la geografía son los que hacen que la crema funcione . |
| xnli | es | Los robando de crema conceptualmente tienen dos dimensiones básicas : producto y geografía . |
| xnli | es | Pierdes las cosas al siguiente nivel si la gente recuerda . |
| xnli | fr | Le produit et la géographie sont ce qui fait travailler la crème de la crème . |
| xnli | fr | L' écrémage conceptuel de la crème a deux dimensions fondamentales : le produit et la géographie . |
| xnli | fr | Vous perdez les choses au niveau suivant si les gens se rappellent . |
| xnli | hi | उत ् पाद और भूगोल क ् या क ् रीम एंजलिस काम बनाते हैं . |
| xnli | hi | Conceptually क ् रीम एंजलिस में दो मूल आयाम हैं - उत ् पाद और भूगोल । |
| xnli | hi | अगर लोग याद करते हैं तो आप निम ् न स ् तर पर चीज ़ ें खो देते हैं . |
| xnli | ru | Продукт и география - это то , что делает крем для работы с кремом . |
| xnli | ru | Концептуально крем крем имеет два основных измерения - продукт и география . |
| xnli | ru | Вы теряете все до следующего уровня , если люди помнят . |
| xnli | sw | Bidhaa na geography ndio hufanya kazi ya utoaji wa cream . |
| xnli | sw | Sakata cream ya conceptually ina vipimo viwili vya msingi - bidhaa na geography . |
| xnli | sw | Wewe mambo kwa kiwango kifuatacho kama watu alipo . |
| xnli | th | สินค้า และ ภูมิศาสตร์ คือ สิ่ง ที่ ทำให้ ครีม ยักยอก งาน |
| xnli | th | ท่า ครีม ยักยอก มี สอง มิติ พื้นฐาน - สินค้า และ ภูมิศาสตร์ |
| xnli | th | คุณ สูญเสีย สิ่ง ต่างๆ ไป ใน ระดับ ต่อไปนี้ หาก ประชาชน จดจำ |
| xnli | tr | Ürün ve coğrafya , krem kaymağını işi yapan şey . |
| xnli | tr | Kavramsal krem kaymağını iki temel boyutu vardır - ürün ve coğrafya . |
| xnli | tr | Eğer insanlar hani , aşağıdaki seviyeye . |
| xnli | ur | مصنوعہ اور جغرافیہ |
| xnli | ur | ارضیات کی ناپیدی اور جغرافیہ نے دو بنیادی فسل تصاویر اور جغرافیہ کا اشتراک کیا ہے ۔ |
| xnli | ur | آپ کو مندرجہ ذیل معلومات میں سے کسی کو کھو دیا گیا ہے . |
| xnli | vi | Sản phẩm và địa lý là những gì làm cho kem skimming làm việc . |
| xnli | vi | Conceptually kem skimming có hai kích thước cơ bản - sản phẩm và địa lý . |
| xnli | vi | Anh sẽ mất mọi thứ ở mức độ sau nếu người dân nhớ lại . |
| xnli | zh-cn | 产品 和 地理 是 什么 使 奶油 抹 霜 工作 . |
| xnli | zh-cn | 从 概念 上 看 , 奶油 收入 有 两 个 基本 方面 产品 和 地理 . |
| xnli | zh-cn | 如果 人们 记得 的 话 , 你 就 会 把 事情 弄 丢 了 . |
文本长度
0-10: 27403
10-20: 320061
20-30: 725257
30-40: 969299
40-50: 1057959
50-60: 1008843
60-70: 843605
70-80: 647293
80-90: 471139
90-100: 336650
100-110: 245307
110-120: 181959
120-130: 139761
130-140: 112214
140-150: 91378
150-160: 77845
160-170: 65331
170-180: 55759
180-190: 47623
190-200: 40554
200-210: 236815
文本长度统计图像：
参考来源
参考的数据来源,展开查看
https://huggingface.co/datasets/papluca/language-identification https://huggingface.co/datasets/unklefedor/language-identification