Yeb Havinga commited on
Commit
9d7e2b0
1 Parent(s): e6a8dce

Generate configs for all language pairs. Remove lang1 and lang2 as parameters.

Browse files

Also add the undocumented max_train_samples parameter. This parameter is useful if you want to download
only the top-n samples from the train split. Since this parameter is
New version without the 500 parts. Also includes wiki created from wiki dump instead of CC

Files changed (4) hide show
  1. README.md +3 -2
  2. ccmatrix.py +62 -20
  3. language_pairs_cache.py +2400 -0
  4. test_ccmatrix.py +16 -15
README.md CHANGED
@@ -158,14 +158,15 @@ This corpus has been extracted from web crawls using the margin-based bitext min
158
 
159
  ### Supported Tasks and Leaderboards
160
  [More Information Needed]
 
161
  ### Languages
162
 
163
- To load a language pair which isn't part of the config, all you need to do is specify the language code as pairs.
164
  You can find the valid pairs in Homepage section of Dataset Description: https://opus.nlpl.eu/CCMatrix.php
165
  E.g.
166
 
167
  ```
168
- dataset = load_dataset("yhavinga/ccmatrix", lang1="en", lang2="nl")
169
  ```
170
 
171
  ## Dataset Structure
 
158
 
159
  ### Supported Tasks and Leaderboards
160
  [More Information Needed]
161
+
162
  ### Languages
163
 
164
+ Configs are generated for all language pairs in both directions.
165
  You can find the valid pairs in Homepage section of Dataset Description: https://opus.nlpl.eu/CCMatrix.php
166
  E.g.
167
 
168
  ```
169
+ dataset = load_dataset("yhavinga/ccmatrix", config="en-nl")
170
  ```
171
 
172
  ## Dataset Structure
ccmatrix.py CHANGED
@@ -1,5 +1,5 @@
1
  # coding=utf-8
2
- # Copyright 2020 HuggingFace Datasets Authors.
3
  #
4
  # Licensed under the Apache License, Version 2.0 (the "License");
5
  # you may not use this file except in compliance with the License.
@@ -15,8 +15,11 @@
15
 
16
  # Lint as: python3
17
  import os
 
 
18
 
19
  import datasets
 
20
 
21
  _DESCRIPTION = """\
22
  CCMatrix: Mining Billions of High-Quality Parallel Sentences on the WEB
@@ -52,26 +55,51 @@ _CITATION = """\
52
 
53
  _VERSION = "1.0.0"
54
  _FILE = "CCMatrix.{}.{}" # E.g. CCMatrix.en-nl.nl
 
55
  _DOWNLOAD_URL = "https://opus.nlpl.eu/download.php?f=CCMatrix/v1/moses/{}.txt.zip"
56
 
57
- _LANGUAGES = ["nl", "en", "de", "fr", "es", "lt", "it"]
58
 
59
- _LANGUAGE_PAIRS = [(l1, l2) for l1 in _LANGUAGES for l2 in _LANGUAGES if l1 != l2]
60
- _SIZES = ["", "1000_000", "25_000_000"]
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
61
 
62
- _CONFIGS = [(l1, l2, size) for (l1, l2) in _LANGUAGE_PAIRS for size in _SIZES]
 
 
 
 
 
 
 
 
 
 
 
63
 
64
 
65
  class CCMatrixConfig(datasets.BuilderConfig):
66
- def __init__(self, *args, lang1=None, lang2=None, size=None, **kwargs):
67
- super().__init__(
68
- *args,
69
- name=f"{lang1}-{lang2}{'-' + size if size else ''}",
70
- **kwargs,
71
- )
72
  self.lang1 = lang1
73
  self.lang2 = lang2
74
- self.size = size
75
  x, y = (lang1, lang2) if lang1 < lang2 else (lang2, lang1)
76
  self.download_pair = f"{x}-{y}"
77
 
@@ -79,16 +107,30 @@ class CCMatrixConfig(datasets.BuilderConfig):
79
  class CCMatrix(datasets.GeneratorBasedBuilder):
80
  BUILDER_CONFIGS = [
81
  CCMatrixConfig(
82
- lang1=lang1,
83
- lang2=lang2,
84
- size=size,
85
- description=f"Translating {lang1} to {lang2} or vice versa{ ' ' + size + ' rows' if size else ''}",
86
  version=datasets.Version(_VERSION),
87
  )
88
- for lang1, lang2, size in _CONFIGS
89
  ]
90
  BUILDER_CONFIG_CLASS = CCMatrixConfig
91
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
92
  def _info(self):
93
  return datasets.DatasetInfo(
94
  description=_DESCRIPTION,
@@ -112,11 +154,11 @@ class CCMatrix(datasets.GeneratorBasedBuilder):
112
  return [
113
  datasets.SplitGenerator(
114
  name=datasets.Split.TRAIN,
115
- gen_kwargs={"datapath": path},
116
  )
117
  ]
118
 
119
- def _generate_examples(self, datapath):
120
  l1_path = os.path.join(
121
  datapath, _FILE.format(self.config.download_pair, self.config.lang1)
122
  )
@@ -130,7 +172,7 @@ class CCMatrix(datasets.GeneratorBasedBuilder):
130
  l2_path, encoding="utf-8"
131
  ) as f2, open(scores_path, encoding="utf-8") as f3:
132
  for sentence_counter, (x, y, score) in enumerate(zip(f1, f2, f3)):
133
- if self.config.size and sentence_counter == int(self.config.size):
134
  return
135
  result = (
136
  sentence_counter,
 
1
  # coding=utf-8
2
+ # Copyright 2022 HuggingFace Datasets Authors.
3
  #
4
  # Licensed under the Apache License, Version 2.0 (the "License");
5
  # you may not use this file except in compliance with the License.
 
15
 
16
  # Lint as: python3
17
  import os
18
+ import re
19
+ import warnings
20
 
21
  import datasets
22
+ import requests
23
 
24
  _DESCRIPTION = """\
25
  CCMatrix: Mining Billions of High-Quality Parallel Sentences on the WEB
 
55
 
56
  _VERSION = "1.0.0"
57
  _FILE = "CCMatrix.{}.{}" # E.g. CCMatrix.en-nl.nl
58
+ _URL = "https://opus.nlpl.eu/CCMatrix.php"
59
  _DOWNLOAD_URL = "https://opus.nlpl.eu/download.php?f=CCMatrix/v1/moses/{}.txt.zip"
60
 
 
61
 
62
+ def get_language_pairs():
63
+ try:
64
+ response = requests.get(_URL)
65
+ except requests.exceptions.RequestException:
66
+ warnings.warn(
67
+ "Unable to download language pairs from '{}'. Using cached version".format(
68
+ _URL
69
+ )
70
+ )
71
+ from language_pairs_cache import language_pairs
72
+
73
+ return language_pairs
74
+
75
+ html = response.text
76
+
77
+ ccmatrix_hrefs = [
78
+ href
79
+ for href in re.findall(r'href=[\'"]?([^\'" >]+)', html)
80
+ if href.startswith("CCMatrix/")
81
+ ]
82
 
83
+ language_pairs = []
84
+ for href in ccmatrix_hrefs:
85
+ match = re.search(r"CCMatrix/v1/(\w+-\w+)_sample.html", href)
86
+ if match:
87
+ language1, language2 = match.group(1).split("-")
88
+ language_pairs.append((language1, language2))
89
+ language_pairs.append((language2, language1))
90
+ language_pairs.sort()
91
+ return language_pairs
92
+
93
+
94
+ _CONFIGS = get_language_pairs()
95
 
96
 
97
  class CCMatrixConfig(datasets.BuilderConfig):
98
+ def __init__(self, **kwargs):
99
+ super().__init__(**kwargs)
100
+ lang1, lang2 = kwargs["name"].split("-")
 
 
 
101
  self.lang1 = lang1
102
  self.lang2 = lang2
 
103
  x, y = (lang1, lang2) if lang1 < lang2 else (lang2, lang1)
104
  self.download_pair = f"{x}-{y}"
105
 
 
107
  class CCMatrix(datasets.GeneratorBasedBuilder):
108
  BUILDER_CONFIGS = [
109
  CCMatrixConfig(
110
+ name=f"{lang1}-{lang2}",
111
+ description=f"Translating {lang1} to {lang2} or vice versa",
 
 
112
  version=datasets.Version(_VERSION),
113
  )
114
+ for lang1, lang2 in _CONFIGS
115
  ]
116
  BUILDER_CONFIG_CLASS = CCMatrixConfig
117
 
118
+ def __init__(self, *args, **kwargs):
119
+ if "max_train_samples" in kwargs and kwargs.get("cache_dir", None) is None:
120
+ kwargs["cache_dir"] = os.path.join(
121
+ str(datasets.config.HF_DATASETS_CACHE),
122
+ "trainsamples_{}".format(kwargs["max_train_samples"]),
123
+ )
124
+ self.max_samples = {
125
+ "train": kwargs.get("max_train_samples", 2**64),
126
+ }
127
+ kwargs = {
128
+ k: v
129
+ for k, v in kwargs.items()
130
+ if k not in ["max_train_samples", "id_filter"]
131
+ }
132
+ super().__init__(*args, **kwargs)
133
+
134
  def _info(self):
135
  return datasets.DatasetInfo(
136
  description=_DESCRIPTION,
 
154
  return [
155
  datasets.SplitGenerator(
156
  name=datasets.Split.TRAIN,
157
+ gen_kwargs={"datapath": path, "max_samples": self.max_samples["train"]},
158
  )
159
  ]
160
 
161
+ def _generate_examples(self, datapath, max_samples):
162
  l1_path = os.path.join(
163
  datapath, _FILE.format(self.config.download_pair, self.config.lang1)
164
  )
 
172
  l2_path, encoding="utf-8"
173
  ) as f2, open(scores_path, encoding="utf-8") as f3:
174
  for sentence_counter, (x, y, score) in enumerate(zip(f1, f2, f3)):
175
+ if sentence_counter == max_samples:
176
  return
177
  result = (
178
  sentence_counter,
language_pairs_cache.py ADDED
@@ -0,0 +1,2400 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ string = """af-da
2
+ af-de
3
+ af-en
4
+ af-fy
5
+ af-is
6
+ af-lb
7
+ af-nl
8
+ af-no
9
+ af-sv
10
+ af-tr
11
+ af-yi
12
+ am-ha
13
+ am-ig
14
+ am-sw
15
+ am-yo
16
+ ar-az
17
+ ar-bg
18
+ ar-bn
19
+ ar-ca
20
+ ar-cs
21
+ ar-da
22
+ ar-de
23
+ ar-el
24
+ ar-en
25
+ ar-eo
26
+ ar-es
27
+ ar-et
28
+ ar-eu
29
+ ar-fa
30
+ ar-fi
31
+ ar-fr
32
+ ar-he
33
+ ar-hi
34
+ ar-hr
35
+ ar-hu
36
+ ar-hy
37
+ ar-id
38
+ ar-it
39
+ ar-ja
40
+ ar-ka
41
+ ar-kk
42
+ ar-km
43
+ ar-ko
44
+ ar-la
45
+ ar-lg
46
+ ar-lt
47
+ ar-lv
48
+ ar-ml
49
+ ar-mr
50
+ ar-ms
51
+ ar-my
52
+ ar-ne
53
+ ar-nl
54
+ ar-no
55
+ ar-om
56
+ ar-or
57
+ ar-pl
58
+ ar-pt
59
+ ar-ro
60
+ ar-ru
61
+ ar-sd
62
+ ar-si
63
+ ar-sk
64
+ ar-sl
65
+ ar-sq
66
+ ar-sr
67
+ ar-sv
68
+ ar-sw
69
+ ar-ta
70
+ ar-tl
71
+ ar-tr
72
+ ar-uk
73
+ ar-ur
74
+ ar-uz
75
+ ar-vi
76
+ ar-xh
77
+ ar-zh
78
+ ar-zu
79
+ ast-ca
80
+ ast-en
81
+ ast-es
82
+ ast-fr
83
+ ast-gl
84
+ ast-it
85
+ ast-la
86
+ ast-oc
87
+ ast-pt
88
+ ast-ro
89
+ az-ar
90
+ az-en
91
+ az-hy
92
+ az-id
93
+ az-ka
94
+ az-kk
95
+ az-km
96
+ az-my
97
+ az-tr
98
+ az-tt
99
+ az-vi
100
+ be-bg
101
+ be-bn
102
+ be-cs
103
+ be-da
104
+ be-de
105
+ be-el
106
+ be-en
107
+ be-eo
108
+ be-et
109
+ be-fi
110
+ be-hi
111
+ be-hr
112
+ be-hu
113
+ be-it
114
+ be-lt
115
+ be-lv
116
+ be-nl
117
+ be-no
118
+ be-pl
119
+ be-ro
120
+ be-ru
121
+ be-sk
122
+ be-sl
123
+ be-sq
124
+ be-sr
125
+ be-sv
126
+ be-sw
127
+ be-tr
128
+ be-uk
129
+ be-vi
130
+ bg-ar
131
+ bg-be
132
+ bg-bn
133
+ bg-ca
134
+ bg-cs
135
+ bg-da
136
+ bg-de
137
+ bg-el
138
+ bg-en
139
+ bg-eo
140
+ bg-es
141
+ bg-et
142
+ bg-eu
143
+ bg-fi
144
+ bg-fr
145
+ bg-he
146
+ bg-hi
147
+ bg-hr
148
+ bg-hu
149
+ bg-id
150
+ bg-it
151
+ bg-ja
152
+ bg-ko
153
+ bg-lt
154
+ bg-lv
155
+ bg-mk
156
+ bg-nl
157
+ bg-no
158
+ bg-pl
159
+ bg-pt
160
+ bg-ro
161
+ bg-ru
162
+ bg-sk
163
+ bg-sl
164
+ bg-sq
165
+ bg-sr
166
+ bg-sv
167
+ bg-sw
168
+ bg-ta
169
+ bg-tr
170
+ bg-uk
171
+ bg-vi
172
+ bg-zh
173
+ bn-ar
174
+ bn-be
175
+ bn-bg
176
+ bn-ca
177
+ bn-cs
178
+ bn-de
179
+ bn-el
180
+ bn-en
181
+ bn-eo
182
+ bn-es
183
+ bn-et
184
+ bn-fa
185
+ bn-fi
186
+ bn-fr
187
+ bn-he
188
+ bn-hi
189
+ bn-hu
190
+ bn-id
191
+ bn-ilo
192
+ bn-it
193
+ bn-ja
194
+ bn-ko
195
+ bn-la
196
+ bn-lt
197
+ bn-lv
198
+ bn-mg
199
+ bn-mk
200
+ bn-ml
201
+ bn-mr
202
+ bn-ms
203
+ bn-ne
204
+ bn-nl
205
+ bn-or
206
+ bn-pl
207
+ bn-pt
208
+ bn-ro
209
+ bn-ru
210
+ bn-si
211
+ bn-sk
212
+ bn-sl
213
+ bn-sr
214
+ bn-sv
215
+ bn-sw
216
+ bn-ta
217
+ bn-tl
218
+ bn-tr
219
+ bn-uk
220
+ bn-ur
221
+ bn-vi
222
+ bn-zh
223
+ br-en
224
+ br-nl
225
+ ca-ar
226
+ ca-ast
227
+ ca-bg
228
+ ca-bn
229
+ ca-da
230
+ ca-el
231
+ ca-en
232
+ ca-eo
233
+ ca-es
234
+ ca-et
235
+ ca-eu
236
+ ca-fa
237
+ ca-fi
238
+ ca-fr
239
+ ca-gl
240
+ ca-he
241
+ ca-hi
242
+ ca-hu
243
+ ca-id
244
+ ca-it
245
+ ca-la
246
+ ca-lt
247
+ ca-lv
248
+ ca-no
249
+ ca-oc
250
+ ca-pt
251
+ ca-ro
252
+ ca-sk
253
+ ca-sl
254
+ ca-sq
255
+ ca-sr
256
+ ca-sw
257
+ ca-ta
258
+ ca-uk
259
+ ceb-de
260
+ ceb-en
261
+ ceb-hi
262
+ ceb-id
263
+ ceb-ilo
264
+ ceb-ja
265
+ ceb-jv
266
+ ceb-mg
267
+ ceb-ml
268
+ ceb-ms
269
+ ceb-su
270
+ ceb-tl
271
+ cs-ar
272
+ cs-be
273
+ cs-bg
274
+ cs-bn
275
+ cs-da
276
+ cs-de
277
+ cs-el
278
+ cs-en
279
+ cs-eo
280
+ cs-es
281
+ cs-et
282
+ cs-fa
283
+ cs-fi
284
+ cs-fr
285
+ cs-he
286
+ cs-hi
287
+ cs-hr
288
+ cs-hu
289
+ cs-id
290
+ cs-it
291
+ cs-ja
292
+ cs-ko
293
+ cs-lt
294
+ cs-lv
295
+ cs-mk
296
+ cs-nl
297
+ cs-no
298
+ cs-pl
299
+ cs-pt
300
+ cs-ro
301
+ cs-ru
302
+ cs-sk
303
+ cs-sl
304
+ cs-sq
305
+ cs-sr
306
+ cs-sv
307
+ cs-sw
308
+ cs-ta
309
+ cs-tr
310
+ cs-uk
311
+ cs-vi
312
+ cs-zh
313
+ cy-nl
314
+ da-af
315
+ da-ar
316
+ da-be
317
+ da-bg
318
+ da-ca
319
+ da-cs
320
+ da-de
321
+ da-el
322
+ da-en
323
+ da-eo
324
+ da-es
325
+ da-et
326
+ da-eu
327
+ da-fa
328
+ da-fi
329
+ da-fr
330
+ da-fy
331
+ da-gd
332
+ da-he
333
+ da-hr
334
+ da-hu
335
+ da-id
336
+ da-is
337
+ da-it
338
+ da-ja
339
+ da-ko
340
+ da-lb
341
+ da-lt
342
+ da-lv
343
+ da-mk
344
+ da-nl
345
+ da-no
346
+ da-pl
347
+ da-pt
348
+ da-ro
349
+ da-ru
350
+ da-sk
351
+ da-sl
352
+ da-sq
353
+ da-sr
354
+ da-sv
355
+ da-ta
356
+ da-tr
357
+ da-uk
358
+ da-vi
359
+ da-yi
360
+ da-zh
361
+ de-af
362
+ de-ar
363
+ de-be
364
+ de-bg
365
+ de-bn
366
+ de-ceb
367
+ de-cs
368
+ de-da
369
+ de-el
370
+ de-en
371
+ de-eo
372
+ de-es
373
+ de-et
374
+ de-fa
375
+ de-fi
376
+ de-fr
377
+ de-fy
378
+ de-ha
379
+ de-he
380
+ de-hi
381
+ de-hr
382
+ de-hu
383
+ de-id
384
+ de-ilo
385
+ de-is
386
+ de-it
387
+ de-ja
388
+ de-jv
389
+ de-ko
390
+ de-lb
391
+ de-lt
392
+ de-lv
393
+ de-mg
394
+ de-mk
395
+ de-ml
396
+ de-ms
397
+ de-nl
398
+ de-no
399
+ de-pl
400
+ de-pt
401
+ de-ro
402
+ de-ru
403
+ de-sk
404
+ de-sl
405
+ de-sq
406
+ de-sr
407
+ de-su
408
+ de-sv
409
+ de-sw
410
+ de-ta
411
+ de-tl
412
+ de-tr
413
+ de-uk
414
+ de-vi
415
+ de-yi
416
+ de-yo
417
+ de-zh
418
+ el-ar
419
+ el-be
420
+ el-bg
421
+ el-bn
422
+ el-ca
423
+ el-cs
424
+ el-da
425
+ el-de
426
+ el-en
427
+ el-eo
428
+ el-es
429
+ el-et
430
+ el-eu
431
+ el-fa
432
+ el-fi
433
+ el-fr
434
+ el-he
435
+ el-hi
436
+ el-hu
437
+ el-id
438
+ el-it
439
+ el-ja
440
+ el-ko
441
+ el-la
442
+ el-lt
443
+ el-lv
444
+ el-nl
445
+ el-no
446
+ el-pl
447
+ el-pt
448
+ el-ro
449
+ el-ru
450
+ el-sk
451
+ el-sl
452
+ el-sq
453
+ el-sr
454
+ el-sv
455
+ el-sw
456
+ el-ta
457
+ el-tr
458
+ el-uk
459
+ el-vi
460
+ el-zh
461
+ en-af
462
+ en-ar
463
+ en-ast
464
+ en-az
465
+ en-be
466
+ en-bg
467
+ en-bn
468
+ en-br
469
+ en-ca
470
+ en-ceb
471
+ en-cs
472
+ en-da
473
+ en-de
474
+ en-el
475
+ en-eo
476
+ en-es
477
+ en-et
478
+ en-eu
479
+ en-fa
480
+ en-fi
481
+ en-fr
482
+ en-fy
483
+ en-ga
484
+ en-gd
485
+ en-gl
486
+ en-ha
487
+ en-he
488
+ en-hi
489
+ en-hr
490
+ en-hu
491
+ en-id
492
+ en-ig
493
+ en-ilo
494
+ en-is
495
+ en-it
496
+ en-ja
497
+ en-jv
498
+ en-ko
499
+ en-la
500
+ en-lb
501
+ en-lt
502
+ en-lv
503
+ en-mg
504
+ en-mk
505
+ en-ml
506
+ en-mr
507
+ en-ms
508
+ en-ne
509
+ en-nl
510
+ en-no
511
+ en-oc
512
+ en-or
513
+ en-pl
514
+ en-pt
515
+ en-ro
516
+ en-ru
517
+ en-sd
518
+ en-si
519
+ en-sk
520
+ en-sl
521
+ en-so
522
+ en-sq
523
+ en-sr
524
+ en-su
525
+ en-sv
526
+ en-sw
527
+ en-ta
528
+ en-tl
529
+ en-tr
530
+ en-uk
531
+ en-ur
532
+ en-vi
533
+ en-xh
534
+ en-yi
535
+ en-zh
536
+ eo-ar
537
+ eo-be
538
+ eo-bg
539
+ eo-bn
540
+ eo-ca
541
+ eo-cs
542
+ eo-da
543
+ eo-de
544
+ eo-el
545
+ eo-en
546
+ eo-es
547
+ eo-et
548
+ eo-eu
549
+ eo-fa
550
+ eo-fi
551
+ eo-fr
552
+ eo-he
553
+ eo-hr
554
+ eo-hu
555
+ eo-it
556
+ eo-lt
557
+ eo-lv
558
+ eo-mk
559
+ eo-nl
560
+ eo-no
561
+ eo-ro
562
+ eo-sk
563
+ eo-sl
564
+ eo-sq
565
+ eo-sr
566
+ eo-sv
567
+ eo-sw
568
+ eo-uk
569
+ es-ar
570
+ es-ast
571
+ es-bg
572
+ es-bn
573
+ es-ca
574
+ es-cs
575
+ es-da
576
+ es-de
577
+ es-el
578
+ es-en
579
+ es-eo
580
+ es-et
581
+ es-eu
582
+ es-fa
583
+ es-fi
584
+ es-fr
585
+ es-gl
586
+ es-he
587
+ es-hi
588
+ es-hu
589
+ es-id
590
+ es-it
591
+ es-ja
592
+ es-ko
593
+ es-la
594
+ es-lt
595
+ es-lv
596
+ es-mk
597
+ es-nl
598
+ es-no
599
+ es-oc
600
+ es-pl
601
+ es-pt
602
+ es-ro
603
+ es-ru
604
+ es-sk
605
+ es-sl
606
+ es-sq
607
+ es-sr
608
+ es-sv
609
+ es-sw
610
+ es-ta
611
+ es-tr
612
+ es-uk
613
+ es-vi
614
+ es-zh
615
+ et-ar
616
+ et-be
617
+ et-bg
618
+ et-bn
619
+ et-ca
620
+ et-cs
621
+ et-da
622
+ et-de
623
+ et-el
624
+ et-en
625
+ et-eo
626
+ et-es
627
+ et-eu
628
+ et-fa
629
+ et-fi
630
+ et-fr
631
+ et-he
632
+ et-hi
633
+ et-hr
634
+ et-hu
635
+ et-id
636
+ et-it
637
+ et-ko
638
+ et-lt
639
+ et-lv
640
+ et-mk
641
+ et-nl
642
+ et-no
643
+ et-pl
644
+ et-pt
645
+ et-ro
646
+ et-ru
647
+ et-sk
648
+ et-sl
649
+ et-sq
650
+ et-sr
651
+ et-sv
652
+ et-sw
653
+ et-ta
654
+ et-tr
655
+ et-uk
656
+ et-vi
657
+ et-zh
658
+ eu-ar
659
+ eu-bg
660
+ eu-ca
661
+ eu-da
662
+ eu-el
663
+ eu-en
664
+ eu-eo
665
+ eu-es
666
+ eu-et
667
+ eu-fa
668
+ eu-fi
669
+ eu-he
670
+ eu-hu
671
+ eu-it
672
+ eu-la
673
+ eu-lt
674
+ eu-lv
675
+ eu-no
676
+ eu-pt
677
+ eu-sk
678
+ eu-sl
679
+ eu-sq
680
+ eu-sr
681
+ eu-tr
682
+ fa-ar
683
+ fa-bn
684
+ fa-ca
685
+ fa-cs
686
+ fa-da
687
+ fa-de
688
+ fa-el
689
+ fa-en
690
+ fa-eo
691
+ fa-es
692
+ fa-et
693
+ fa-eu
694
+ fa-fi
695
+ fa-fr
696
+ fa-he
697
+ fa-hi
698
+ fa-hr
699
+ fa-hu
700
+ fa-id
701
+ fa-it
702
+ fa-ja
703
+ fa-ko
704
+ fa-la
705
+ fa-lt
706
+ fa-lv
707
+ fa-ml
708
+ fa-mr
709
+ fa-ms
710
+ fa-ne
711
+ fa-nl
712
+ fa-no
713
+ fa-or
714
+ fa-pl
715
+ fa-pt
716
+ fa-ro
717
+ fa-ru
718
+ fa-sd
719
+ fa-si
720
+ fa-sk
721
+ fa-sl
722
+ fa-sq
723
+ fa-sr
724
+ fa-sv
725
+ fa-sw
726
+ fa-ta
727
+ fa-tl
728
+ fa-tr
729
+ fa-uk
730
+ fa-ur
731
+ fa-uz
732
+ fa-vi
733
+ fa-zh
734
+ fi-ar
735
+ fi-be
736
+ fi-bg
737
+ fi-bn
738
+ fi-ca
739
+ fi-cs
740
+ fi-da
741
+ fi-de
742
+ fi-el
743
+ fi-en
744
+ fi-eo
745
+ fi-es
746
+ fi-et
747
+ fi-eu
748
+ fi-fa
749
+ fi-fr
750
+ fi-he
751
+ fi-hi
752
+ fi-hr
753
+ fi-hu
754
+ fi-id
755
+ fi-it
756
+ fi-ja
757
+ fi-ko
758
+ fi-lt
759
+ fi-lv
760
+ fi-mk
761
+ fi-nl
762
+ fi-no
763
+ fi-pl
764
+ fi-pt
765
+ fi-ro
766
+ fi-ru
767
+ fi-sk
768
+ fi-sl
769
+ fi-sq
770
+ fi-sr
771
+ fi-sv
772
+ fi-sw
773
+ fi-ta
774
+ fi-tr
775
+ fi-uk
776
+ fi-vi
777
+ fi-zh
778
+ fr-ar
779
+ fr-ast
780
+ fr-bg
781
+ fr-bn
782
+ fr-ca
783
+ fr-cs
784
+ fr-da
785
+ fr-de
786
+ fr-el
787
+ fr-en
788
+ fr-eo
789
+ fr-es
790
+ fr-et
791
+ fr-fa
792
+ fr-fi
793
+ fr-gl
794
+ fr-he
795
+ fr-hi
796
+ fr-hr
797
+ fr-hu
798
+ fr-id
799
+ fr-it
800
+ fr-ja
801
+ fr-ko
802
+ fr-la
803
+ fr-lt
804
+ fr-lv
805
+ fr-ml
806
+ fr-ms
807
+ fr-nl
808
+ fr-no
809
+ fr-oc
810
+ fr-pl
811
+ fr-pt
812
+ fr-ro
813
+ fr-ru
814
+ fr-sk
815
+ fr-sl
816
+ fr-sr
817
+ fr-sv
818
+ fr-sw
819
+ fr-ta
820
+ fr-tl
821
+ fr-tr
822
+ fr-uk
823
+ fr-vi
824
+ fr-zh
825
+ fy-af
826
+ fy-da
827
+ fy-de
828
+ fy-en
829
+ fy-is
830
+ fy-lb
831
+ fy-nl
832
+ fy-no
833
+ fy-yi
834
+ ga-en
835
+ ga-nl
836
+ gd-da
837
+ gd-en
838
+ gd-nl
839
+ gd-no
840
+ gl-ast
841
+ gl-ca
842
+ gl-en
843
+ gl-es
844
+ gl-fr
845
+ gl-it
846
+ gl-la
847
+ gl-oc
848
+ gl-pt
849
+ gl-ro
850
+ gl-tr
851
+ ha-am
852
+ ha-de
853
+ ha-en
854
+ ha-ig
855
+ ha-nl
856
+ ha-sw
857
+ ha-yo
858
+ he-ar
859
+ he-bg
860
+ he-bn
861
+ he-ca
862
+ he-cs
863
+ he-da
864
+ he-de
865
+ he-el
866
+ he-en
867
+ he-eo
868
+ he-es
869
+ he-et
870
+ he-eu
871
+ he-fa
872
+ he-fi
873
+ he-fr
874
+ he-hi
875
+ he-hu
876
+ he-id
877
+ he-ja
878
+ he-ko
879
+ he-la
880
+ he-lt
881
+ he-lv
882
+ he-mg
883
+ he-ml
884
+ he-mr
885
+ he-ms
886
+ he-ne
887
+ he-nl
888
+ he-no
889
+ he-pl
890
+ he-pt
891
+ he-ro
892
+ he-ru
893
+ he-si
894
+ he-sk
895
+ he-sl
896
+ he-sq
897
+ he-sr
898
+ he-sv
899
+ he-sw
900
+ he-ta
901
+ he-tl
902
+ he-tr
903
+ he-uk
904
+ he-ur
905
+ he-vi
906
+ he-zh
907
+ hi-ar
908
+ hi-be
909
+ hi-bg
910
+ hi-bn
911
+ hi-ca
912
+ hi-ceb
913
+ hi-cs
914
+ hi-de
915
+ hi-el
916
+ hi-en
917
+ hi-es
918
+ hi-et
919
+ hi-fa
920
+ hi-fi
921
+ hi-fr
922
+ hi-he
923
+ hi-hu
924
+ hi-id
925
+ hi-ilo
926
+ hi-it
927
+ hi-ja
928
+ hi-jv
929
+ hi-ko
930
+ hi-la
931
+ hi-lt
932
+ hi-lv
933
+ hi-mg
934
+ hi-ml
935
+ hi-mr
936
+ hi-ms
937
+ hi-ne
938
+ hi-nl
939
+ hi-or
940
+ hi-pl
941
+ hi-pt
942
+ hi-ro
943
+ hi-ru
944
+ hi-si
945
+ hi-sk
946
+ hi-sl
947
+ hi-sr
948
+ hi-sv
949
+ hi-sw
950
+ hi-ta
951
+ hi-tl
952
+ hi-tr
953
+ hi-uk
954
+ hi-ur
955
+ hi-vi
956
+ hi-zh
957
+ hr-ar
958
+ hr-be
959
+ hr-bg
960
+ hr-cs
961
+ hr-da
962
+ hr-de
963
+ hr-en
964
+ hr-eo
965
+ hr-et
966
+ hr-fa
967
+ hr-fi
968
+ hr-fr
969
+ hr-hu
970
+ hr-lt
971
+ hr-lv
972
+ hr-mk
973
+ hr-no
974
+ hr-pl
975
+ hr-ro
976
+ hr-ru
977
+ hr-sk
978
+ hr-sl
979
+ hr-sq
980
+ hr-sr
981
+ hr-ta
982
+ hr-uk
983
+ hr-zh
984
+ hu-ar
985
+ hu-be
986
+ hu-bg
987
+ hu-bn
988
+ hu-ca
989
+ hu-cs
990
+ hu-da
991
+ hu-de
992
+ hu-el
993
+ hu-en
994
+ hu-eo
995
+ hu-es
996
+ hu-et
997
+ hu-eu
998
+ hu-fa
999
+ hu-fi
1000
+ hu-fr
1001
+ hu-he
1002
+ hu-hi
1003
+ hu-hr
1004
+ hu-id
1005
+ hu-it
1006
+ hu-ja
1007
+ hu-ko
1008
+ hu-lt
1009
+ hu-lv
1010
+ hu-mk
1011
+ hu-nl
1012
+ hu-no
1013
+ hu-om
1014
+ hu-pl
1015
+ hu-pt
1016
+ hu-ro
1017
+ hu-ru
1018
+ hu-sk
1019
+ hu-sl
1020
+ hu-sq
1021
+ hu-sr
1022
+ hu-sv
1023
+ hu-sw
1024
+ hu-ta
1025
+ hu-tr
1026
+ hu-uk
1027
+ hu-vi
1028
+ hu-xh
1029
+ hu-zh
1030
+ hu-zu
1031
+ hy-ar
1032
+ hy-az
1033
+ hy-ka
1034
+ hy-kk
1035
+ hy-km
1036
+ hy-my
1037
+ hy-tr
1038
+ hy-tt
1039
+ hy-vi
1040
+ id-ar
1041
+ id-az
1042
+ id-bg
1043
+ id-bn
1044
+ id-ca
1045
+ id-ceb
1046
+ id-cs
1047
+ id-da
1048
+ id-de
1049
+ id-el
1050
+ id-en
1051
+ id-es
1052
+ id-et
1053
+ id-fa
1054
+ id-fi
1055
+ id-fr
1056
+ id-he
1057
+ id-hi
1058
+ id-hu
1059
+ id-ilo
1060
+ id-it
1061
+ id-ja
1062
+ id-jv
1063
+ id-ko
1064
+ id-lt
1065
+ id-lv
1066
+ id-mg
1067
+ id-ml
1068
+ id-mr
1069
+ id-ms
1070
+ id-ne
1071
+ id-nl
1072
+ id-no
1073
+ id-pl
1074
+ id-pt
1075
+ id-ro
1076
+ id-ru
1077
+ id-si
1078
+ id-sk
1079
+ id-sl
1080
+ id-sr
1081
+ id-su
1082
+ id-sv
1083
+ id-sw
1084
+ id-ta
1085
+ id-tl
1086
+ id-tr
1087
+ id-uk
1088
+ id-ur
1089
+ id-vi
1090
+ id-zh
1091
+ ig-am
1092
+ ig-en
1093
+ ig-ha
1094
+ ig-nl
1095
+ ig-sw
1096
+ ig-yo
1097
+ ilo-bn
1098
+ ilo-ceb
1099
+ ilo-de
1100
+ ilo-en
1101
+ ilo-hi
1102
+ ilo-id
1103
+ ilo-jv
1104
+ ilo-mg
1105
+ ilo-ml
1106
+ ilo-ms
1107
+ ilo-su
1108
+ ilo-tl
1109
+ is-af
1110
+ is-da
1111
+ is-de
1112
+ is-en
1113
+ is-fy
1114
+ is-lb
1115
+ is-nl
1116
+ is-no
1117
+ is-sv
1118
+ is-yi
1119
+ it-ar
1120
+ it-ast
1121
+ it-be
1122
+ it-bg
1123
+ it-bn
1124
+ it-ca
1125
+ it-cs
1126
+ it-da
1127
+ it-de
1128
+ it-el
1129
+ it-en
1130
+ it-eo
1131
+ it-es
1132
+ it-et
1133
+ it-eu
1134
+ it-fa
1135
+ it-fi
1136
+ it-fr
1137
+ it-gl
1138
+ it-hi
1139
+ it-hu
1140
+ it-id
1141
+ it-ja
1142
+ it-ko
1143
+ it-la
1144
+ it-lt
1145
+ it-lv
1146
+ it-nl
1147
+ it-no
1148
+ it-oc
1149
+ it-pl
1150
+ it-pt
1151
+ it-ro
1152
+ it-ru
1153
+ it-sk
1154
+ it-sl
1155
+ it-sq
1156
+ it-sr
1157
+ it-sv
1158
+ it-sw
1159
+ it-ta
1160
+ it-tr
1161
+ it-uk
1162
+ it-vi
1163
+ it-zh
1164
+ ja-ar
1165
+ ja-bg
1166
+ ja-bn
1167
+ ja-ceb
1168
+ ja-cs
1169
+ ja-da
1170
+ ja-de
1171
+ ja-el
1172
+ ja-en
1173
+ ja-es
1174
+ ja-fa
1175
+ ja-fi
1176
+ ja-fr
1177
+ ja-he
1178
+ ja-hi
1179
+ ja-hu
1180
+ ja-id
1181
+ ja-it
1182
+ ja-ko
1183
+ ja-lt
1184
+ ja-ml
1185
+ ja-ms
1186
+ ja-nl
1187
+ ja-no
1188
+ ja-pl
1189
+ ja-pt
1190
+ ja-ro
1191
+ ja-ru
1192
+ ja-sk
1193
+ ja-sl
1194
+ ja-sr
1195
+ ja-sv
1196
+ ja-sw
1197
+ ja-ta
1198
+ ja-tl
1199
+ ja-tr
1200
+ ja-uk
1201
+ ja-vi
1202
+ ja-zh
1203
+ jv-ceb
1204
+ jv-de
1205
+ jv-en
1206
+ jv-hi
1207
+ jv-id
1208
+ jv-ilo
1209
+ jv-mg
1210
+ jv-ml
1211
+ jv-ms
1212
+ jv-su
1213
+ jv-tl
1214
+ ka-ar
1215
+ ka-az
1216
+ ka-hy
1217
+ ka-kk
1218
+ ka-tr
1219
+ ka-tt
1220
+ ka-vi
1221
+ kk-ar
1222
+ kk-az
1223
+ kk-hy
1224
+ kk-ka
1225
+ kk-tr
1226
+ kk-tt
1227
+ kk-vi
1228
+ km-ar
1229
+ km-az
1230
+ km-hy
1231
+ km-tr
1232
+ ko-ar
1233
+ ko-bg
1234
+ ko-bn
1235
+ ko-cs
1236
+ ko-da
1237
+ ko-de
1238
+ ko-el
1239
+ ko-en
1240
+ ko-es
1241
+ ko-et
1242
+ ko-fa
1243
+ ko-fi
1244
+ ko-fr
1245
+ ko-he
1246
+ ko-hi
1247
+ ko-hu
1248
+ ko-id
1249
+ ko-it
1250
+ ko-ja
1251
+ ko-lt
1252
+ ko-lv
1253
+ ko-mk
1254
+ ko-nl
1255
+ ko-no
1256
+ ko-pl
1257
+ ko-pt
1258
+ ko-ru
1259
+ ko-sk
1260
+ ko-sl
1261
+ ko-sr
1262
+ ko-sv
1263
+ ko-sw
1264
+ ko-ta
1265
+ ko-tr
1266
+ ko-uk
1267
+ ko-vi
1268
+ ko-zh
1269
+ la-ar
1270
+ la-ast
1271
+ la-bn
1272
+ la-ca
1273
+ la-el
1274
+ la-en
1275
+ la-es
1276
+ la-eu
1277
+ la-fa
1278
+ la-fr
1279
+ la-gl
1280
+ la-he
1281
+ la-hi
1282
+ la-it
1283
+ la-oc
1284
+ la-pt
1285
+ la-ro
1286
+ la-sw
1287
+ la-ta
1288
+ la-tr
1289
+ lb-af
1290
+ lb-da
1291
+ lb-de
1292
+ lb-en
1293
+ lb-fy
1294
+ lb-is
1295
+ lb-nl
1296
+ lb-no
1297
+ lb-zh
1298
+ lg-ar
1299
+ lg-sw
1300
+ lt-ar
1301
+ lt-be
1302
+ lt-bg
1303
+ lt-bn
1304
+ lt-ca
1305
+ lt-cs
1306
+ lt-da
1307
+ lt-de
1308
+ lt-el
1309
+ lt-en
1310
+ lt-eo
1311
+ lt-es
1312
+ lt-et
1313
+ lt-eu
1314
+ lt-fa
1315
+ lt-fi
1316
+ lt-fr
1317
+ lt-he
1318
+ lt-hi
1319
+ lt-hr
1320
+ lt-hu
1321
+ lt-id
1322
+ lt-it
1323
+ lt-ja
1324
+ lt-ko
1325
+ lt-lv
1326
+ lt-mg
1327
+ lt-mk
1328
+ lt-nl
1329
+ lt-no
1330
+ lt-pl
1331
+ lt-pt
1332
+ lt-ro
1333
+ lt-ru
1334
+ lt-sk
1335
+ lt-sl
1336
+ lt-sq
1337
+ lt-sr
1338
+ lt-sv
1339
+ lt-sw
1340
+ lt-ta
1341
+ lt-tr
1342
+ lt-uk
1343
+ lt-vi
1344
+ lt-zh
1345
+ lv-ar
1346
+ lv-be
1347
+ lv-bg
1348
+ lv-bn
1349
+ lv-ca
1350
+ lv-cs
1351
+ lv-da
1352
+ lv-de
1353
+ lv-el
1354
+ lv-en
1355
+ lv-eo
1356
+ lv-es
1357
+ lv-et
1358
+ lv-eu
1359
+ lv-fa
1360
+ lv-fi
1361
+ lv-fr
1362
+ lv-he
1363
+ lv-hi
1364
+ lv-hr
1365
+ lv-hu
1366
+ lv-id
1367
+ lv-it
1368
+ lv-ko
1369
+ lv-lt
1370
+ lv-mk
1371
+ lv-nl
1372
+ lv-no
1373
+ lv-pl
1374
+ lv-pt
1375
+ lv-ro
1376
+ lv-ru
1377
+ lv-sk
1378
+ lv-sl
1379
+ lv-sq
1380
+ lv-sr
1381
+ lv-sv
1382
+ lv-sw
1383
+ lv-ta
1384
+ lv-tr
1385
+ lv-uk
1386
+ lv-vi
1387
+ lv-zh
1388
+ mg-bn
1389
+ mg-ceb
1390
+ mg-de
1391
+ mg-en
1392
+ mg-he
1393
+ mg-hi
1394
+ mg-id
1395
+ mg-ilo
1396
+ mg-jv
1397
+ mg-lt
1398
+ mg-ml
1399
+ mg-ms
1400
+ mg-ru
1401
+ mg-su
1402
+ mg-ta
1403
+ mg-tl
1404
+ mg-zh
1405
+ mk-bg
1406
+ mk-bn
1407
+ mk-cs
1408
+ mk-da
1409
+ mk-de
1410
+ mk-en
1411
+ mk-eo
1412
+ mk-es
1413
+ mk-et
1414
+ mk-fi
1415
+ mk-hr
1416
+ mk-hu
1417
+ mk-ko
1418
+ mk-lt
1419
+ mk-lv
1420
+ mk-nl
1421
+ mk-no
1422
+ mk-pl
1423
+ mk-ro
1424
+ mk-ru
1425
+ mk-sk
1426
+ mk-sl
1427
+ mk-sq
1428
+ mk-sv
1429
+ mk-uk
1430
+ mk-vi
1431
+ mk-zh
1432
+ ml-ar
1433
+ ml-bn
1434
+ ml-ceb
1435
+ ml-de
1436
+ ml-en
1437
+ ml-fa
1438
+ ml-fr
1439
+ ml-he
1440
+ ml-hi
1441
+ ml-id
1442
+ ml-ilo
1443
+ ml-ja
1444
+ ml-jv
1445
+ ml-mg
1446
+ ml-ms
1447
+ ml-ru
1448
+ ml-su
1449
+ ml-ta
1450
+ ml-tl
1451
+ ml-tr
1452
+ ml-zh
1453
+ mr-ar
1454
+ mr-bn
1455
+ mr-en
1456
+ mr-fa
1457
+ mr-he
1458
+ mr-hi
1459
+ mr-id
1460
+ mr-ne
1461
+ mr-or
1462
+ mr-ru
1463
+ mr-si
1464
+ mr-ta
1465
+ mr-tr
1466
+ mr-ur
1467
+ ms-ar
1468
+ ms-bn
1469
+ ms-ceb
1470
+ ms-de
1471
+ ms-en
1472
+ ms-fa
1473
+ ms-fr
1474
+ ms-he
1475
+ ms-hi
1476
+ ms-id
1477
+ ms-ilo
1478
+ ms-ja
1479
+ ms-jv
1480
+ ms-mg
1481
+ ms-ml
1482
+ ms-ru
1483
+ ms-su
1484
+ ms-ta
1485
+ ms-tl
1486
+ ms-tr
1487
+ ms-vi
1488
+ ms-zh
1489
+ my-ar
1490
+ my-az
1491
+ my-hy
1492
+ my-tr
1493
+ ne-ar
1494
+ ne-bn
1495
+ ne-en
1496
+ ne-fa
1497
+ ne-he
1498
+ ne-hi
1499
+ ne-id
1500
+ ne-mr
1501
+ ne-or
1502
+ ne-ru
1503
+ ne-si
1504
+ ne-ta
1505
+ ne-tr
1506
+ ne-ur
1507
+ nl-af
1508
+ nl-ar
1509
+ nl-be
1510
+ nl-bg
1511
+ nl-bn
1512
+ nl-br
1513
+ nl-cs
1514
+ nl-cy
1515
+ nl-da
1516
+ nl-de
1517
+ nl-el
1518
+ nl-en
1519
+ nl-eo
1520
+ nl-es
1521
+ nl-et
1522
+ nl-fa
1523
+ nl-fi
1524
+ nl-fr
1525
+ nl-fy
1526
+ nl-ga
1527
+ nl-gd
1528
+ nl-ha
1529
+ nl-he
1530
+ nl-hi
1531
+ nl-hu
1532
+ nl-id
1533
+ nl-ig
1534
+ nl-is
1535
+ nl-it
1536
+ nl-ja
1537
+ nl-ko
1538
+ nl-lb
1539
+ nl-lt
1540
+ nl-lv
1541
+ nl-mk
1542
+ nl-no
1543
+ nl-pl
1544
+ nl-pt
1545
+ nl-ro
1546
+ nl-ru
1547
+ nl-sk
1548
+ nl-sl
1549
+ nl-so
1550
+ nl-sr
1551
+ nl-sv
1552
+ nl-sw
1553
+ nl-ta
1554
+ nl-tr
1555
+ nl-uk
1556
+ nl-vi
1557
+ nl-yi
1558
+ nl-yo
1559
+ nl-zh
1560
+ no-af
1561
+ no-ar
1562
+ no-be
1563
+ no-bg
1564
+ no-ca
1565
+ no-cs
1566
+ no-da
1567
+ no-de
1568
+ no-el
1569
+ no-en
1570
+ no-eo
1571
+ no-es
1572
+ no-et
1573
+ no-eu
1574
+ no-fa
1575
+ no-fi
1576
+ no-fr
1577
+ no-fy
1578
+ no-gd
1579
+ no-he
1580
+ no-hr
1581
+ no-hu
1582
+ no-id
1583
+ no-is
1584
+ no-it
1585
+ no-ja
1586
+ no-ko
1587
+ no-lb
1588
+ no-lt
1589
+ no-lv
1590
+ no-mk
1591
+ no-nl
1592
+ no-pl
1593
+ no-pt
1594
+ no-ro
1595
+ no-ru
1596
+ no-sk
1597
+ no-sl
1598
+ no-sq
1599
+ no-sr
1600
+ no-sv
1601
+ no-ta
1602
+ no-tr
1603
+ no-uk
1604
+ no-vi
1605
+ no-yi
1606
+ no-zh
1607
+ oc-ast
1608
+ oc-ca
1609
+ oc-en
1610
+ oc-es
1611
+ oc-fr
1612
+ oc-gl
1613
+ oc-it
1614
+ oc-la
1615
+ oc-pt
1616
+ oc-ro
1617
+ om-ar
1618
+ om-hu
1619
+ om-sw
1620
+ or-ar
1621
+ or-bn
1622
+ or-en
1623
+ or-fa
1624
+ or-hi
1625
+ or-mr
1626
+ or-ne
1627
+ or-si
1628
+ or-ta
1629
+ or-ur
1630
+ pl-ar
1631
+ pl-be
1632
+ pl-bg
1633
+ pl-bn
1634
+ pl-cs
1635
+ pl-da
1636
+ pl-de
1637
+ pl-el
1638
+ pl-en
1639
+ pl-es
1640
+ pl-et
1641
+ pl-fa
1642
+ pl-fi
1643
+ pl-fr
1644
+ pl-he
1645
+ pl-hi
1646
+ pl-hr
1647
+ pl-hu
1648
+ pl-id
1649
+ pl-it
1650
+ pl-ja
1651
+ pl-ko
1652
+ pl-lt
1653
+ pl-lv
1654
+ pl-mk
1655
+ pl-nl
1656
+ pl-no
1657
+ pl-pt
1658
+ pl-ro
1659
+ pl-ru
1660
+ pl-sk
1661
+ pl-sl
1662
+ pl-sq
1663
+ pl-sr
1664
+ pl-sv
1665
+ pl-sw
1666
+ pl-ta
1667
+ pl-tr
1668
+ pl-uk
1669
+ pl-vi
1670
+ pl-zh
1671
+ pt-ar
1672
+ pt-ast
1673
+ pt-bg
1674
+ pt-bn
1675
+ pt-ca
1676
+ pt-cs
1677
+ pt-da
1678
+ pt-de
1679
+ pt-el
1680
+ pt-en
1681
+ pt-es
1682
+ pt-et
1683
+ pt-eu
1684
+ pt-fa
1685
+ pt-fi
1686
+ pt-fr
1687
+ pt-gl
1688
+ pt-he
1689
+ pt-hi
1690
+ pt-hu
1691
+ pt-id
1692
+ pt-it
1693
+ pt-ja
1694
+ pt-ko
1695
+ pt-la
1696
+ pt-lt
1697
+ pt-lv
1698
+ pt-nl
1699
+ pt-no
1700
+ pt-oc
1701
+ pt-pl
1702
+ pt-ro
1703
+ pt-ru
1704
+ pt-sk
1705
+ pt-sl
1706
+ pt-sr
1707
+ pt-sv
1708
+ pt-sw
1709
+ pt-ta
1710
+ pt-tr
1711
+ pt-uk
1712
+ pt-vi
1713
+ pt-zh
1714
+ ro-ar
1715
+ ro-ast
1716
+ ro-be
1717
+ ro-bg
1718
+ ro-bn
1719
+ ro-ca
1720
+ ro-cs
1721
+ ro-da
1722
+ ro-de
1723
+ ro-el
1724
+ ro-en
1725
+ ro-eo
1726
+ ro-es
1727
+ ro-et
1728
+ ro-fa
1729
+ ro-fi
1730
+ ro-fr
1731
+ ro-gl
1732
+ ro-he
1733
+ ro-hi
1734
+ ro-hr
1735
+ ro-hu
1736
+ ro-id
1737
+ ro-it
1738
+ ro-ja
1739
+ ro-la
1740
+ ro-lt
1741
+ ro-lv
1742
+ ro-mk
1743
+ ro-nl
1744
+ ro-no
1745
+ ro-oc
1746
+ ro-pl
1747
+ ro-pt
1748
+ ro-sk
1749
+ ro-sl
1750
+ ro-sq
1751
+ ro-sr
1752
+ ro-sv
1753
+ ro-ta
1754
+ ro-tr
1755
+ ro-uk
1756
+ ro-vi
1757
+ ro-zh
1758
+ ru-ar
1759
+ ru-be
1760
+ ru-bg
1761
+ ru-bn
1762
+ ru-cs
1763
+ ru-da
1764
+ ru-de
1765
+ ru-el
1766
+ ru-en
1767
+ ru-es
1768
+ ru-et
1769
+ ru-fa
1770
+ ru-fi
1771
+ ru-fr
1772
+ ru-he
1773
+ ru-hi
1774
+ ru-hr
1775
+ ru-hu
1776
+ ru-id
1777
+ ru-it
1778
+ ru-ja
1779
+ ru-ko
1780
+ ru-lt
1781
+ ru-lv
1782
+ ru-mg
1783
+ ru-mk
1784
+ ru-ml
1785
+ ru-mr
1786
+ ru-ms
1787
+ ru-ne
1788
+ ru-nl
1789
+ ru-no
1790
+ ru-pl
1791
+ ru-pt
1792
+ ru-si
1793
+ ru-sk
1794
+ ru-sl
1795
+ ru-sq
1796
+ ru-sr
1797
+ ru-sv
1798
+ ru-sw
1799
+ ru-ta
1800
+ ru-tl
1801
+ ru-tr
1802
+ ru-uk
1803
+ ru-ur
1804
+ ru-vi
1805
+ ru-zh
1806
+ sd-ar
1807
+ sd-en
1808
+ sd-fa
1809
+ si-ar
1810
+ si-bn
1811
+ si-en
1812
+ si-fa
1813
+ si-he
1814
+ si-hi
1815
+ si-id
1816
+ si-mr
1817
+ si-ne
1818
+ si-or
1819
+ si-ru
1820
+ si-ta
1821
+ si-tr
1822
+ si-ur
1823
+ sk-ar
1824
+ sk-be
1825
+ sk-bg
1826
+ sk-bn
1827
+ sk-ca
1828
+ sk-cs
1829
+ sk-da
1830
+ sk-de
1831
+ sk-el
1832
+ sk-en
1833
+ sk-eo
1834
+ sk-es
1835
+ sk-et
1836
+ sk-eu
1837
+ sk-fa
1838
+ sk-fi
1839
+ sk-fr
1840
+ sk-he
1841
+ sk-hi
1842
+ sk-hr
1843
+ sk-hu
1844
+ sk-id
1845
+ sk-it
1846
+ sk-ja
1847
+ sk-ko
1848
+ sk-lt
1849
+ sk-lv
1850
+ sk-mk
1851
+ sk-nl
1852
+ sk-no
1853
+ sk-pl
1854
+ sk-pt
1855
+ sk-ro
1856
+ sk-ru
1857
+ sk-sl
1858
+ sk-sq
1859
+ sk-sr
1860
+ sk-sv
1861
+ sk-sw
1862
+ sk-ta
1863
+ sk-tr
1864
+ sk-uk
1865
+ sk-vi
1866
+ sk-zh
1867
+ sl-ar
1868
+ sl-be
1869
+ sl-bg
1870
+ sl-bn
1871
+ sl-ca
1872
+ sl-cs
1873
+ sl-da
1874
+ sl-de
1875
+ sl-el
1876
+ sl-en
1877
+ sl-eo
1878
+ sl-es
1879
+ sl-et
1880
+ sl-eu
1881
+ sl-fa
1882
+ sl-fi
1883
+ sl-fr
1884
+ sl-he
1885
+ sl-hi
1886
+ sl-hr
1887
+ sl-hu
1888
+ sl-id
1889
+ sl-it
1890
+ sl-ja
1891
+ sl-ko
1892
+ sl-lt
1893
+ sl-lv
1894
+ sl-mk
1895
+ sl-nl
1896
+ sl-no
1897
+ sl-pl
1898
+ sl-pt
1899
+ sl-ro
1900
+ sl-ru
1901
+ sl-sk
1902
+ sl-sq
1903
+ sl-sr
1904
+ sl-sv
1905
+ sl-sw
1906
+ sl-ta
1907
+ sl-tr
1908
+ sl-uk
1909
+ sl-vi
1910
+ sl-zh
1911
+ so-en
1912
+ so-nl
1913
+ so-sw
1914
+ sq-ar
1915
+ sq-be
1916
+ sq-bg
1917
+ sq-ca
1918
+ sq-cs
1919
+ sq-da
1920
+ sq-de
1921
+ sq-el
1922
+ sq-en
1923
+ sq-eo
1924
+ sq-es
1925
+ sq-et
1926
+ sq-eu
1927
+ sq-fa
1928
+ sq-fi
1929
+ sq-he
1930
+ sq-hr
1931
+ sq-hu
1932
+ sq-it
1933
+ sq-lt
1934
+ sq-lv
1935
+ sq-mk
1936
+ sq-no
1937
+ sq-pl
1938
+ sq-ro
1939
+ sq-ru
1940
+ sq-sk
1941
+ sq-sl
1942
+ sq-sr
1943
+ sq-sv
1944
+ sq-tr
1945
+ sq-uk
1946
+ sr-ar
1947
+ sr-be
1948
+ sr-bg
1949
+ sr-bn
1950
+ sr-ca
1951
+ sr-cs
1952
+ sr-da
1953
+ sr-de
1954
+ sr-el
1955
+ sr-en
1956
+ sr-eo
1957
+ sr-es
1958
+ sr-et
1959
+ sr-eu
1960
+ sr-fa
1961
+ sr-fi
1962
+ sr-fr
1963
+ sr-he
1964
+ sr-hi
1965
+ sr-hr
1966
+ sr-hu
1967
+ sr-id
1968
+ sr-it
1969
+ sr-ja
1970
+ sr-ko
1971
+ sr-lt
1972
+ sr-lv
1973
+ sr-nl
1974
+ sr-no
1975
+ sr-pl
1976
+ sr-pt
1977
+ sr-ro
1978
+ sr-ru
1979
+ sr-sk
1980
+ sr-sl
1981
+ sr-sq
1982
+ sr-sv
1983
+ sr-sw
1984
+ sr-ta
1985
+ sr-tr
1986
+ sr-uk
1987
+ sr-vi
1988
+ sr-zh
1989
+ su-ceb
1990
+ su-de
1991
+ su-en
1992
+ su-id
1993
+ su-ilo
1994
+ su-jv
1995
+ su-mg
1996
+ su-ml
1997
+ su-ms
1998
+ su-tl
1999
+ sv-af
2000
+ sv-ar
2001
+ sv-be
2002
+ sv-bg
2003
+ sv-bn
2004
+ sv-cs
2005
+ sv-da
2006
+ sv-de
2007
+ sv-el
2008
+ sv-en
2009
+ sv-eo
2010
+ sv-es
2011
+ sv-et
2012
+ sv-fa
2013
+ sv-fi
2014
+ sv-fr
2015
+ sv-he
2016
+ sv-hi
2017
+ sv-hu
2018
+ sv-id
2019
+ sv-is
2020
+ sv-it
2021
+ sv-ja
2022
+ sv-ko
2023
+ sv-lt
2024
+ sv-lv
2025
+ sv-mk
2026
+ sv-nl
2027
+ sv-no
2028
+ sv-pl
2029
+ sv-pt
2030
+ sv-ro
2031
+ sv-ru
2032
+ sv-sk
2033
+ sv-sl
2034
+ sv-sq
2035
+ sv-sr
2036
+ sv-sw
2037
+ sv-ta
2038
+ sv-tr
2039
+ sv-uk
2040
+ sv-vi
2041
+ sv-zh
2042
+ sw-am
2043
+ sw-ar
2044
+ sw-be
2045
+ sw-bg
2046
+ sw-bn
2047
+ sw-ca
2048
+ sw-cs
2049
+ sw-de
2050
+ sw-el
2051
+ sw-en
2052
+ sw-eo
2053
+ sw-es
2054
+ sw-et
2055
+ sw-fa
2056
+ sw-fi
2057
+ sw-fr
2058
+ sw-ha
2059
+ sw-he
2060
+ sw-hi
2061
+ sw-hu
2062
+ sw-id
2063
+ sw-ig
2064
+ sw-it
2065
+ sw-ja
2066
+ sw-ko
2067
+ sw-la
2068
+ sw-lg
2069
+ sw-lt
2070
+ sw-lv
2071
+ sw-nl
2072
+ sw-om
2073
+ sw-pl
2074
+ sw-pt
2075
+ sw-ru
2076
+ sw-sk
2077
+ sw-sl
2078
+ sw-so
2079
+ sw-sr
2080
+ sw-sv
2081
+ sw-ta
2082
+ sw-tr
2083
+ sw-uk
2084
+ sw-vi
2085
+ sw-wo
2086
+ sw-xh
2087
+ sw-yo
2088
+ sw-zh
2089
+ sw-zu
2090
+ ta-ar
2091
+ ta-bg
2092
+ ta-bn
2093
+ ta-ca
2094
+ ta-cs
2095
+ ta-da
2096
+ ta-de
2097
+ ta-el
2098
+ ta-en
2099
+ ta-es
2100
+ ta-et
2101
+ ta-fa
2102
+ ta-fi
2103
+ ta-fr
2104
+ ta-he
2105
+ ta-hi
2106
+ ta-hr
2107
+ ta-hu
2108
+ ta-id
2109
+ ta-it
2110
+ ta-ja
2111
+ ta-ko
2112
+ ta-la
2113
+ ta-lt
2114
+ ta-lv
2115
+ ta-mg
2116
+ ta-ml
2117
+ ta-mr
2118
+ ta-ms
2119
+ ta-ne
2120
+ ta-nl
2121
+ ta-no
2122
+ ta-or
2123
+ ta-pl
2124
+ ta-pt
2125
+ ta-ro
2126
+ ta-ru
2127
+ ta-si
2128
+ ta-sk
2129
+ ta-sl
2130
+ ta-sr
2131
+ ta-sv
2132
+ ta-sw
2133
+ ta-tl
2134
+ ta-tr
2135
+ ta-uk
2136
+ ta-ur
2137
+ ta-vi
2138
+ ta-zh
2139
+ tl-ar
2140
+ tl-bn
2141
+ tl-ceb
2142
+ tl-de
2143
+ tl-en
2144
+ tl-fa
2145
+ tl-fr
2146
+ tl-he
2147
+ tl-hi
2148
+ tl-id
2149
+ tl-ilo
2150
+ tl-ja
2151
+ tl-jv
2152
+ tl-mg
2153
+ tl-ml
2154
+ tl-ms
2155
+ tl-ru
2156
+ tl-su
2157
+ tl-ta
2158
+ tl-tr
2159
+ tl-vi
2160
+ tl-zh
2161
+ tr-af
2162
+ tr-ar
2163
+ tr-az
2164
+ tr-be
2165
+ tr-bg
2166
+ tr-bn
2167
+ tr-cs
2168
+ tr-da
2169
+ tr-de
2170
+ tr-el
2171
+ tr-en
2172
+ tr-es
2173
+ tr-et
2174
+ tr-eu
2175
+ tr-fa
2176
+ tr-fi
2177
+ tr-fr
2178
+ tr-gl
2179
+ tr-he
2180
+ tr-hi
2181
+ tr-hu
2182
+ tr-hy
2183
+ tr-id
2184
+ tr-it
2185
+ tr-ja
2186
+ tr-ka
2187
+ tr-kk
2188
+ tr-km
2189
+ tr-ko
2190
+ tr-la
2191
+ tr-lt
2192
+ tr-lv
2193
+ tr-ml
2194
+ tr-mr
2195
+ tr-ms
2196
+ tr-my
2197
+ tr-ne
2198
+ tr-nl
2199
+ tr-no
2200
+ tr-pl
2201
+ tr-pt
2202
+ tr-ro
2203
+ tr-ru
2204
+ tr-si
2205
+ tr-sk
2206
+ tr-sl
2207
+ tr-sq
2208
+ tr-sr
2209
+ tr-sv
2210
+ tr-sw
2211
+ tr-ta
2212
+ tr-tl
2213
+ tr-uk
2214
+ tr-ur
2215
+ tr-uz
2216
+ tr-vi
2217
+ tr-zh
2218
+ tt-az
2219
+ tt-hy
2220
+ tt-ka
2221
+ tt-kk
2222
+ uk-ar
2223
+ uk-be
2224
+ uk-bg
2225
+ uk-bn
2226
+ uk-ca
2227
+ uk-cs
2228
+ uk-da
2229
+ uk-de
2230
+ uk-el
2231
+ uk-en
2232
+ uk-eo
2233
+ uk-es
2234
+ uk-et
2235
+ uk-fa
2236
+ uk-fi
2237
+ uk-fr
2238
+ uk-he
2239
+ uk-hi
2240
+ uk-hr
2241
+ uk-hu
2242
+ uk-id
2243
+ uk-it
2244
+ uk-ja
2245
+ uk-ko
2246
+ uk-lt
2247
+ uk-lv
2248
+ uk-mk
2249
+ uk-nl
2250
+ uk-no
2251
+ uk-pl
2252
+ uk-pt
2253
+ uk-ro
2254
+ uk-ru
2255
+ uk-sk
2256
+ uk-sl
2257
+ uk-sq
2258
+ uk-sr
2259
+ uk-sv
2260
+ uk-sw
2261
+ uk-ta
2262
+ uk-tr
2263
+ uk-vi
2264
+ uk-zh
2265
+ ur-ar
2266
+ ur-bn
2267
+ ur-en
2268
+ ur-fa
2269
+ ur-he
2270
+ ur-hi
2271
+ ur-id
2272
+ ur-mr
2273
+ ur-ne
2274
+ ur-or
2275
+ ur-ru
2276
+ ur-si
2277
+ ur-ta
2278
+ ur-tr
2279
+ uz-ar
2280
+ uz-fa
2281
+ uz-tr
2282
+ vi-ar
2283
+ vi-az
2284
+ vi-be
2285
+ vi-bg
2286
+ vi-bn
2287
+ vi-cs
2288
+ vi-da
2289
+ vi-de
2290
+ vi-el
2291
+ vi-en
2292
+ vi-es
2293
+ vi-et
2294
+ vi-fa
2295
+ vi-fi
2296
+ vi-fr
2297
+ vi-he
2298
+ vi-hi
2299
+ vi-hu
2300
+ vi-hy
2301
+ vi-id
2302
+ vi-it
2303
+ vi-ja
2304
+ vi-ka
2305
+ vi-kk
2306
+ vi-ko
2307
+ vi-lt
2308
+ vi-lv
2309
+ vi-mk
2310
+ vi-ms
2311
+ vi-nl
2312
+ vi-no
2313
+ vi-pl
2314
+ vi-pt
2315
+ vi-ro
2316
+ vi-ru
2317
+ vi-sk
2318
+ vi-sl
2319
+ vi-sr
2320
+ vi-sv
2321
+ vi-sw
2322
+ vi-ta
2323
+ vi-tl
2324
+ vi-tr
2325
+ vi-uk
2326
+ vi-zh
2327
+ wo-sw
2328
+ xh-ar
2329
+ xh-en
2330
+ xh-hu
2331
+ xh-sw
2332
+ yi-af
2333
+ yi-da
2334
+ yi-de
2335
+ yi-en
2336
+ yi-fy
2337
+ yi-is
2338
+ yi-nl
2339
+ yi-no
2340
+ yi-zh
2341
+ yo-am
2342
+ yo-de
2343
+ yo-ha
2344
+ yo-ig
2345
+ yo-nl
2346
+ yo-sw
2347
+ zh-ar
2348
+ zh-bg
2349
+ zh-bn
2350
+ zh-cs
2351
+ zh-da
2352
+ zh-de
2353
+ zh-el
2354
+ zh-en
2355
+ zh-es
2356
+ zh-et
2357
+ zh-fa
2358
+ zh-fi
2359
+ zh-fr
2360
+ zh-he
2361
+ zh-hi
2362
+ zh-hr
2363
+ zh-hu
2364
+ zh-id
2365
+ zh-it
2366
+ zh-ja
2367
+ zh-ko
2368
+ zh-lb
2369
+ zh-lt
2370
+ zh-lv
2371
+ zh-mg
2372
+ zh-mk
2373
+ zh-ml
2374
+ zh-ms
2375
+ zh-nl
2376
+ zh-no
2377
+ zh-pl
2378
+ zh-pt
2379
+ zh-ro
2380
+ zh-ru
2381
+ zh-sk
2382
+ zh-sl
2383
+ zh-sr
2384
+ zh-sv
2385
+ zh-sw
2386
+ zh-ta
2387
+ zh-tl
2388
+ zh-tr
2389
+ zh-uk
2390
+ zh-vi
2391
+ zh-yi
2392
+ zu-ar
2393
+ zu-hu
2394
+ zu-sw
2395
+ """
2396
+
2397
+ language_pairs = []
2398
+ for pair in string.splitlines():
2399
+ lang1, lang2 = pair.split("-")
2400
+ language_pairs.append((lang1, lang2))
test_ccmatrix.py CHANGED
@@ -2,10 +2,10 @@ from datasets import load_dataset
2
 
3
 
4
  def test_streaming_dataset():
5
- datasets = load_dataset("./ccmatrix.py", lang1="nl", lang2="en", streaming=True)
6
- assert list(datasets.keys()) == ["train"]
7
 
8
- train_ds = datasets["train"]
9
 
10
  i = iter(train_ds)
11
  e = next(i)
@@ -34,10 +34,10 @@ def test_streaming_dataset():
34
 
35
 
36
  def test_streaming_dataset_2():
37
- datasets = load_dataset("./ccmatrix.py", "nl-en", streaming=True)
38
- assert list(datasets.keys()) == ["train"]
39
 
40
- train_ds = datasets["train"]
41
 
42
  i = iter(train_ds)
43
  e = next(i)
@@ -65,12 +65,12 @@ def test_streaming_dataset_2():
65
  }
66
 
67
 
68
- def test_small_config():
69
- datasets = load_dataset("./ccmatrix.py", "nl-en-1000_000")
70
- assert list(datasets.keys()) == ["train"]
71
 
72
- train_ds = datasets["train"]
73
- assert len(train_ds) == 1000000
74
 
75
  i = iter(train_ds)
76
  e = next(i)
@@ -98,11 +98,12 @@ def test_small_config():
98
  }
99
 
100
 
101
- def test_medium_config():
102
- datasets = load_dataset("./ccmatrix.py", "nl-en-25_000_000", streaming=True)
103
- assert list(datasets.keys()) == ["train"]
104
 
105
- train_ds = datasets["train"]
 
106
 
107
  i = iter(train_ds)
108
  e = next(i)
 
2
 
3
 
4
  def test_streaming_dataset():
5
+ dataset = load_dataset("./ccmatrix.py", "nl-en", streaming=True)
6
+ assert list(dataset.keys()) == ["train"]
7
 
8
+ train_ds = dataset["train"]
9
 
10
  i = iter(train_ds)
11
  e = next(i)
 
34
 
35
 
36
  def test_streaming_dataset_2():
37
+ dataset = load_dataset("./ccmatrix.py", "nl-en", streaming=True)
38
+ assert list(dataset.keys()) == ["train"]
39
 
40
+ train_ds = dataset["train"]
41
 
42
  i = iter(train_ds)
43
  e = next(i)
 
65
  }
66
 
67
 
68
+ def test_max_train_samples_1():
69
+ dataset = load_dataset("./ccmatrix.py", "nl-en", max_train_samples=123)
70
+ assert list(dataset.keys()) == ["train"]
71
 
72
+ train_ds = dataset["train"]
73
+ assert len(train_ds) == 123
74
 
75
  i = iter(train_ds)
76
  e = next(i)
 
98
  }
99
 
100
 
101
+ def test_max_train_samples_2():
102
+ dataset = load_dataset("./ccmatrix.py", "nl-en", max_train_samples=256)
103
+ assert list(dataset.keys()) == ["train"]
104
 
105
+ train_ds = dataset["train"]
106
+ assert len(train_ds) == 256
107
 
108
  i = iter(train_ds)
109
  e = next(i)