Datasets:
ArXiv:
License:
update
Browse files- README.md +62 -0
- docs/picture/scandi_langid_text_length.jpg +3 -0
- examples/make_subset_details.py +1 -1
README.md
CHANGED
@@ -414,6 +414,68 @@ fo: 23807
|
|
414 |
|
415 |
|
416 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
417 |
### 参考来源
|
418 |
<details>
|
419 |
<summary>参考的数据来源,展开查看</summary>
|
|
|
414 |
|
415 |
|
416 |
|
417 |
+
#### scandi_langid
|
418 |
+
以下都是 train 训练集的信息
|
419 |
+
|
420 |
+
|
421 |
+
```text
|
422 |
+
语种数量:
|
423 |
+
sv: 79928
|
424 |
+
no: 79846
|
425 |
+
da: 79844
|
426 |
+
```
|
427 |
+
|
428 |
+
|
429 |
+
样本示例:
|
430 |
+
|
431 |
+
|
432 |
+
| 数据 | 语种 | 样本 |
|
433 |
+
| :---: | :---: | :---: |
|
434 |
+
| scandi_langid | no | Det høres flott ut, men hvem sa at det skal være lett? |
|
435 |
+
| scandi_langid | no | Malla, vil du gifte deg med meg? |
|
436 |
+
| scandi_langid | no | Må jeg gå helt tilbake for å hente den? |
|
437 |
+
| scandi_langid | da | -Jeg er ikke bøsse. <br><br>-Han kaldte os ikke ved navn... |
|
438 |
+
| scandi_langid | da | Så længe det er en forretning, vil også Internettet blive brugt til det, fordi Internettet er en ekstra hjælp: Det dækker nemlig over, hvem der er forbruger, og det gør i højeste grad udbyderne anonyme. |
|
439 |
+
| scandi_langid | da | Det er ikke noget nyt, det er ikke nye uoverensstemmelser, vi har nu. |
|
440 |
+
| scandi_langid | sv | Irland och Storbritannien som har hävdat sin rätt att inte vilja vara med, vilket har medgetts i avtalen, utgör ett anmärkningsvärt undantag. |
|
441 |
+
| scandi_langid | sv | Om vi även i fortsättningen dumpar produkter med hjälp av miljardbelopp, förstörs denna utveckling även i fortsättningen, och det kommer att inträffa många nedläggningar på grund av sociala och ekologiska skäl. |
|
442 |
+
| scandi_langid | sv | En del av unionens medlemsländer, inklusive mitt eget land, har hela tiden haft diplomatiska förbindelser med Demokratiska folkrepubliken Korea, andra har nyligen bestämt sig för att upprätta förbindelser medan ytterligare en grupp väntar på att fatta ett beslut om att upprätta förbindelser. |
|
443 |
+
|
444 |
+
|
445 |
+
|
446 |
+
<details>
|
447 |
+
<summary>文本长度</summary>
|
448 |
+
<pre><code>0-10: 27
|
449 |
+
10-20: 348
|
450 |
+
20-30: 14062
|
451 |
+
30-40: 40560
|
452 |
+
40-50: 29088
|
453 |
+
50-60: 23904
|
454 |
+
60-70: 18662
|
455 |
+
70-80: 12070
|
456 |
+
80-90: 9335
|
457 |
+
90-100: 8702
|
458 |
+
100-110: 7974
|
459 |
+
110-120: 7335
|
460 |
+
120-130: 6829
|
461 |
+
130-140: 6289
|
462 |
+
140-150: 5694
|
463 |
+
150-160: 5345
|
464 |
+
160-170: 4730
|
465 |
+
170-180: 4369
|
466 |
+
180-190: 3969
|
467 |
+
190-200: 3607
|
468 |
+
200-210: 26719
|
469 |
+
</code></pre>
|
470 |
+
</details>
|
471 |
+
|
472 |
+
|
473 |
+
文本长度统计图像:
|
474 |
+
|
475 |
+
![scandi_langid_text_length.jpg](docs/picture/scandi_langid_text_length.jpg)
|
476 |
+
|
477 |
+
|
478 |
+
|
479 |
### 参考来源
|
480 |
<details>
|
481 |
<summary>参考的数据来源,展开查看</summary>
|
docs/picture/scandi_langid_text_length.jpg
ADDED
Git LFS Details
|
examples/make_subset_details.py
CHANGED
@@ -12,7 +12,7 @@ from project_settings import project_path
|
|
12 |
|
13 |
def get_args():
|
14 |
parser = argparse.ArgumentParser()
|
15 |
-
parser.add_argument("--dataset_name", default="
|
16 |
parser.add_argument(
|
17 |
"--dataset_cache_dir",
|
18 |
default=(project_path / "hub_datasets").as_posix(),
|
|
|
12 |
|
13 |
def get_args():
|
14 |
parser = argparse.ArgumentParser()
|
15 |
+
parser.add_argument("--dataset_name", default="scandi_langid", type=str)
|
16 |
parser.add_argument(
|
17 |
"--dataset_cache_dir",
|
18 |
default=(project_path / "hub_datasets").as_posix(),
|