Datasets:

ArXiv:
License:
HoneyTian commited on
Commit
25227b5
1 Parent(s): 197a279
README.md CHANGED
@@ -414,6 +414,68 @@ fo: 23807
414
 
415
 
416
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
417
  ### 参考来源
418
  <details>
419
  <summary>参考的数据来源,展开查看</summary>
 
414
 
415
 
416
 
417
+ #### scandi_langid
418
+ 以下都是 train 训练集的信息
419
+
420
+
421
+ ```text
422
+ 语种数量:
423
+ sv: 79928
424
+ no: 79846
425
+ da: 79844
426
+ ```
427
+
428
+
429
+ 样本示例:
430
+
431
+
432
+ | 数据 | 语种 | 样本 |
433
+ | :---: | :---: | :---: |
434
+ | scandi_langid | no | Det høres flott ut, men hvem sa at det skal være lett? |
435
+ | scandi_langid | no | Malla, vil du gifte deg med meg? |
436
+ | scandi_langid | no | Må jeg gå helt tilbake for å hente den? |
437
+ | scandi_langid | da | -Jeg er ikke bøsse. <br><br>-Han kaldte os ikke ved navn... |
438
+ | scandi_langid | da | Så længe det er en forretning, vil også Internettet blive brugt til det, fordi Internettet er en ekstra hjælp: Det dækker nemlig over, hvem der er forbruger, og det gør i højeste grad udbyderne anonyme. |
439
+ | scandi_langid | da | Det er ikke noget nyt, det er ikke nye uoverensstemmelser, vi har nu. |
440
+ | scandi_langid | sv | Irland och Storbritannien som har hävdat sin rätt att inte vilja vara med, vilket har medgetts i avtalen, utgör ett anmärkningsvärt undantag. |
441
+ | scandi_langid | sv | Om vi även i fortsättningen dumpar produkter med hjälp av miljardbelopp, förstörs denna utveckling även i fortsättningen, och det kommer att inträffa många nedläggningar på grund av sociala och ekologiska skäl. |
442
+ | scandi_langid | sv | En del av unionens medlemsländer, inklusive mitt eget land, har hela tiden haft diplomatiska förbindelser med Demokratiska folkrepubliken Korea, andra har nyligen bestämt sig för att upprätta förbindelser medan ytterligare en grupp väntar på att fatta ett beslut om att upprätta förbindelser. |
443
+
444
+
445
+
446
+ <details>
447
+ <summary>文本长度</summary>
448
+ <pre><code>0-10: 27
449
+ 10-20: 348
450
+ 20-30: 14062
451
+ 30-40: 40560
452
+ 40-50: 29088
453
+ 50-60: 23904
454
+ 60-70: 18662
455
+ 70-80: 12070
456
+ 80-90: 9335
457
+ 90-100: 8702
458
+ 100-110: 7974
459
+ 110-120: 7335
460
+ 120-130: 6829
461
+ 130-140: 6289
462
+ 140-150: 5694
463
+ 150-160: 5345
464
+ 160-170: 4730
465
+ 170-180: 4369
466
+ 180-190: 3969
467
+ 190-200: 3607
468
+ 200-210: 26719
469
+ </code></pre>
470
+ </details>
471
+
472
+
473
+ 文本长度统计图像:
474
+
475
+ ![scandi_langid_text_length.jpg](docs/picture/scandi_langid_text_length.jpg)
476
+
477
+
478
+
479
  ### 参考来源
480
  <details>
481
  <summary>参考的数据来源,展开查看</summary>
docs/picture/scandi_langid_text_length.jpg ADDED

Git LFS Details

  • SHA256: 1a862d84ffbb198752288745267f8319d4ca89b14cf31f0bfa41d60daa2d190e
  • Pointer size: 130 Bytes
  • Size of remote file: 19.4 kB
examples/make_subset_details.py CHANGED
@@ -12,7 +12,7 @@ from project_settings import project_path
12
 
13
  def get_args():
14
  parser = argparse.ArgumentParser()
15
- parser.add_argument("--dataset_name", default="nordic_langid", type=str)
16
  parser.add_argument(
17
  "--dataset_cache_dir",
18
  default=(project_path / "hub_datasets").as_posix(),
 
12
 
13
  def get_args():
14
  parser = argparse.ArgumentParser()
15
+ parser.add_argument("--dataset_name", default="scandi_langid", type=str)
16
  parser.add_argument(
17
  "--dataset_cache_dir",
18
  default=(project_path / "hub_datasets").as_posix(),