akshitab commited on
Commit
9d61c1d
1 Parent(s): 07f9c27

update script

Browse files
Files changed (1) hide show
  1. wmt22_african.py +5 -5
wmt22_african.py CHANGED
@@ -12,7 +12,7 @@
12
  # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13
  # See the License for the specific language governing permissions and
14
  # limitations under the License.
15
- """WMT21 Metrics Shared Task: Segment-Level Data"""
16
 
17
  import datasets
18
  import csv
@@ -24,7 +24,7 @@ _DESCRIPTION = "" # TODO
24
 
25
  _HOMEPAGE = "" # TODO
26
 
27
- _LICENSE = "Unknown" # TODO
28
 
29
 
30
  _LANGUAGE_PAIRS = [('afr', 'eng'), ('afr', 'som'), ('amh', 'eng'), ('amh', 'fra'), ('amh', 'nya'), ('amh', 'orm'), ('amh', 'sna'), ('amh', 'som'), ('amh', 'ssw'), ('amh', 'swh'), ('amh', 'tsn'), ('amh', 'tso'), ('amh', 'umb'), ('amh', 'xho'), ('amh', 'yor'), ('amh', 'zul'), ('eng', 'fuv'), ('eng', 'hau'), ('eng', 'ibo'), ('eng', 'kam'), ('eng', 'kin'), ('eng', 'lin'), ('eng', 'lug'), ('eng', 'luo'), ('eng', 'nso'), ('eng', 'nya'), ('eng', 'orm'), ('eng', 'sna'), ('eng', 'som'), ('eng', 'ssw'), ('eng', 'swh'), ('eng', 'tsn'), ('eng', 'tso'), ('eng', 'umb'), ('eng', 'wol'), ('eng', 'xho'), ('eng', 'yor'), ('eng', 'zul'), ('fra', 'hau'), ('fra', 'ibo'), ('fra', 'kam'), ('fra', 'kin'), ('fra', 'lin'), ('fra', 'lug'), ('fra', 'luo'), ('fra', 'nso'), ('fra', 'nya'), ('fra', 'orm'), ('fra', 'som'), ('fra', 'ssw'), ('fra', 'swh'), ('fra', 'tsn'), ('fra', 'tso'), ('fra', 'umb'), ('fra', 'wol'), ('fra', 'xho'), ('fra', 'zul'), ('fuv', 'hau'), ('fuv', 'ibo'), ('fuv', 'kam'), ('fuv', 'kin'), ('fuv', 'lug'), ('fuv', 'luo'), ('fuv', 'nso'), ('fuv', 'nya'), ('fuv', 'orm'), ('fuv', 'sna'), ('fuv', 'som'), ('fuv', 'ssw'), ('fuv', 'swh'), ('fuv', 'tsn'), ('fuv', 'tso'), ('fuv', 'umb'), ('fuv', 'xho'), ('fuv', 'yor'), ('fuv', 'zul'), ('hau', 'ibo'), ('hau', 'kam'), ('hau', 'kin'), ('hau', 'lug'), ('hau', 'luo'), ('hau', 'nso'), ('hau', 'nya'), ('hau', 'orm'), ('hau', 'sna'), ('hau', 'som'), ('hau', 'ssw'), ('hau', 'swh'), ('hau', 'tsn'), ('hau', 'tso'), ('hau', 'umb'), ('hau', 'xho'), ('hau', 'yor'), ('hau', 'zul'), ('ibo', 'kam'), ('ibo', 'kin'), ('ibo', 'lug'), ('ibo', 'luo'), ('ibo', 'nso'), ('ibo', 'nya'), ('ibo', 'orm'), ('ibo', 'sna'), ('ibo', 'som'), ('ibo', 'ssw'), ('ibo', 'swh'), ('ibo', 'tsn'), ('ibo', 'tso'), ('ibo', 'umb'), ('ibo', 'xho'), ('ibo', 'yor'), ('ibo', 'zul'), ('kam', 'kin'), ('kam', 'lug'), ('kam', 'luo'), ('kam', 'nso'), ('kam', 'nya'), ('kam', 'orm'), ('kam', 'sna'), ('kam', 'som'), ('kam', 'ssw'), ('kam', 'swh'), ('kam', 'tsn'), ('kam', 'tso'), ('kam', 'umb'), ('kam', 'xho'), ('kam', 'yor'), ('kam', 'zul'), ('kin', 'lug'), ('kin', 'luo'), ('kin', 'nso'), ('kin', 'nya'), ('kin', 'orm'), ('kin', 'sna'), ('kin', 'som'), ('kin', 'ssw'), ('kin', 'swh'), ('kin', 'tsn'), ('kin', 'tso'), ('kin', 'umb'), ('kin', 'xho'), ('kin', 'yor'), ('kin', 'zul'), ('lug', 'luo'), ('lug', 'nso'), ('lug', 'nya'), ('lug', 'orm'), ('lug', 'sna'), ('lug', 'som'), ('lug', 'ssw'), ('lug', 'swh'), ('lug', 'tsn'), ('lug', 'tso'), ('lug', 'umb'), ('lug', 'xho'), ('lug', 'yor'), ('lug', 'zul'), ('luo', 'nso'), ('luo', 'nya'), ('luo', 'orm'), ('luo', 'sna'), ('luo', 'som'), ('luo', 'ssw'), ('luo', 'swh'), ('luo', 'tsn'), ('luo', 'tso'), ('luo', 'umb'), ('luo', 'xho'), ('luo', 'yor'), ('luo', 'zul'), ('nso', 'nya'), ('nso', 'orm'), ('nso', 'sna'), ('nso', 'som'), ('nso', 'ssw'), ('nso', 'swh'), ('nso', 'tsn'), ('nso', 'tso'), ('nso', 'umb'), ('nso', 'xho'), ('nso', 'yor'), ('nso', 'zul'), ('nya', 'orm'), ('nya', 'sna'), ('nya', 'som'), ('nya', 'ssw'), ('nya', 'swh'), ('nya', 'tsn'), ('nya', 'tso'), ('nya', 'umb'), ('nya', 'xho'), ('nya', 'yor'), ('nya', 'zul'), ('orm', 'sna'), ('orm', 'som'), ('orm', 'ssw'), ('orm', 'swh'), ('orm', 'tsn'), ('orm', 'tso'), ('orm', 'umb'), ('orm', 'xho'), ('orm', 'yor'), ('orm', 'zul'), ('sna', 'som'), ('sna', 'ssw'), ('sna', 'swh'), ('sna', 'tsn'), ('sna', 'tso'), ('sna', 'umb'), ('sna', 'xho'), ('sna', 'yor'), ('sna', 'zul'), ('som', 'ssw'), ('som', 'swh'), ('som', 'tsn'), ('som', 'tso'), ('som', 'umb'), ('som', 'wol'), ('som', 'xho'), ('som', 'yor'), ('som', 'zul'), ('ssw', 'swh'), ('ssw', 'tsn'), ('ssw', 'tso'), ('ssw', 'umb'), ('ssw', 'xho'), ('ssw', 'yor'), ('ssw', 'zul'), ('swh', 'tsn'), ('swh', 'tso'), ('swh', 'umb'), ('swh', 'xho'), ('swh', 'yor'), ('swh', 'zul'), ('tsn', 'tso'), ('tsn', 'umb'), ('tsn', 'xho'), ('tsn', 'yor'), ('tsn', 'zul'), ('tso', 'umb'), ('tso', 'xho'), ('tso', 'yor'), ('tso', 'zul'), ('umb', 'xho'), ('umb', 'yor'), ('umb', 'zul'), ('xho', 'yor'), ('xho', 'zul'), ('yor', 'zul')]
@@ -41,14 +41,14 @@ class Wmt22AfricanTaskConfig(datasets.BuilderConfig):
41
  self.tgt_lg = tgt_lg
42
 
43
 
44
- class Wmt21MetricsTask(datasets.GeneratorBasedBuilder):
45
- """WMT Metrics Shared Task."""
46
 
47
  BUILDER_CONFIGS = [
48
  Wmt22AfricanTaskConfig(
49
  name=f"{src_lg}-{tgt_lg}",
50
  version=datasets.Version("1.1.0"),
51
- description=f"WMT 2022 African: {src_lg} - {tgt_lg}",
52
  src_lg=src_lg,
53
  tgt_lg=tgt_lg,
54
  )
12
  # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13
  # See the License for the specific language governing permissions and
14
  # limitations under the License.
15
+ """WMT22 African Languages Shared Task"""
16
 
17
  import datasets
18
  import csv
24
 
25
  _HOMEPAGE = "" # TODO
26
 
27
+ _LICENSE = "BSD-License" # TODO
28
 
29
 
30
  _LANGUAGE_PAIRS = [('afr', 'eng'), ('afr', 'som'), ('amh', 'eng'), ('amh', 'fra'), ('amh', 'nya'), ('amh', 'orm'), ('amh', 'sna'), ('amh', 'som'), ('amh', 'ssw'), ('amh', 'swh'), ('amh', 'tsn'), ('amh', 'tso'), ('amh', 'umb'), ('amh', 'xho'), ('amh', 'yor'), ('amh', 'zul'), ('eng', 'fuv'), ('eng', 'hau'), ('eng', 'ibo'), ('eng', 'kam'), ('eng', 'kin'), ('eng', 'lin'), ('eng', 'lug'), ('eng', 'luo'), ('eng', 'nso'), ('eng', 'nya'), ('eng', 'orm'), ('eng', 'sna'), ('eng', 'som'), ('eng', 'ssw'), ('eng', 'swh'), ('eng', 'tsn'), ('eng', 'tso'), ('eng', 'umb'), ('eng', 'wol'), ('eng', 'xho'), ('eng', 'yor'), ('eng', 'zul'), ('fra', 'hau'), ('fra', 'ibo'), ('fra', 'kam'), ('fra', 'kin'), ('fra', 'lin'), ('fra', 'lug'), ('fra', 'luo'), ('fra', 'nso'), ('fra', 'nya'), ('fra', 'orm'), ('fra', 'som'), ('fra', 'ssw'), ('fra', 'swh'), ('fra', 'tsn'), ('fra', 'tso'), ('fra', 'umb'), ('fra', 'wol'), ('fra', 'xho'), ('fra', 'zul'), ('fuv', 'hau'), ('fuv', 'ibo'), ('fuv', 'kam'), ('fuv', 'kin'), ('fuv', 'lug'), ('fuv', 'luo'), ('fuv', 'nso'), ('fuv', 'nya'), ('fuv', 'orm'), ('fuv', 'sna'), ('fuv', 'som'), ('fuv', 'ssw'), ('fuv', 'swh'), ('fuv', 'tsn'), ('fuv', 'tso'), ('fuv', 'umb'), ('fuv', 'xho'), ('fuv', 'yor'), ('fuv', 'zul'), ('hau', 'ibo'), ('hau', 'kam'), ('hau', 'kin'), ('hau', 'lug'), ('hau', 'luo'), ('hau', 'nso'), ('hau', 'nya'), ('hau', 'orm'), ('hau', 'sna'), ('hau', 'som'), ('hau', 'ssw'), ('hau', 'swh'), ('hau', 'tsn'), ('hau', 'tso'), ('hau', 'umb'), ('hau', 'xho'), ('hau', 'yor'), ('hau', 'zul'), ('ibo', 'kam'), ('ibo', 'kin'), ('ibo', 'lug'), ('ibo', 'luo'), ('ibo', 'nso'), ('ibo', 'nya'), ('ibo', 'orm'), ('ibo', 'sna'), ('ibo', 'som'), ('ibo', 'ssw'), ('ibo', 'swh'), ('ibo', 'tsn'), ('ibo', 'tso'), ('ibo', 'umb'), ('ibo', 'xho'), ('ibo', 'yor'), ('ibo', 'zul'), ('kam', 'kin'), ('kam', 'lug'), ('kam', 'luo'), ('kam', 'nso'), ('kam', 'nya'), ('kam', 'orm'), ('kam', 'sna'), ('kam', 'som'), ('kam', 'ssw'), ('kam', 'swh'), ('kam', 'tsn'), ('kam', 'tso'), ('kam', 'umb'), ('kam', 'xho'), ('kam', 'yor'), ('kam', 'zul'), ('kin', 'lug'), ('kin', 'luo'), ('kin', 'nso'), ('kin', 'nya'), ('kin', 'orm'), ('kin', 'sna'), ('kin', 'som'), ('kin', 'ssw'), ('kin', 'swh'), ('kin', 'tsn'), ('kin', 'tso'), ('kin', 'umb'), ('kin', 'xho'), ('kin', 'yor'), ('kin', 'zul'), ('lug', 'luo'), ('lug', 'nso'), ('lug', 'nya'), ('lug', 'orm'), ('lug', 'sna'), ('lug', 'som'), ('lug', 'ssw'), ('lug', 'swh'), ('lug', 'tsn'), ('lug', 'tso'), ('lug', 'umb'), ('lug', 'xho'), ('lug', 'yor'), ('lug', 'zul'), ('luo', 'nso'), ('luo', 'nya'), ('luo', 'orm'), ('luo', 'sna'), ('luo', 'som'), ('luo', 'ssw'), ('luo', 'swh'), ('luo', 'tsn'), ('luo', 'tso'), ('luo', 'umb'), ('luo', 'xho'), ('luo', 'yor'), ('luo', 'zul'), ('nso', 'nya'), ('nso', 'orm'), ('nso', 'sna'), ('nso', 'som'), ('nso', 'ssw'), ('nso', 'swh'), ('nso', 'tsn'), ('nso', 'tso'), ('nso', 'umb'), ('nso', 'xho'), ('nso', 'yor'), ('nso', 'zul'), ('nya', 'orm'), ('nya', 'sna'), ('nya', 'som'), ('nya', 'ssw'), ('nya', 'swh'), ('nya', 'tsn'), ('nya', 'tso'), ('nya', 'umb'), ('nya', 'xho'), ('nya', 'yor'), ('nya', 'zul'), ('orm', 'sna'), ('orm', 'som'), ('orm', 'ssw'), ('orm', 'swh'), ('orm', 'tsn'), ('orm', 'tso'), ('orm', 'umb'), ('orm', 'xho'), ('orm', 'yor'), ('orm', 'zul'), ('sna', 'som'), ('sna', 'ssw'), ('sna', 'swh'), ('sna', 'tsn'), ('sna', 'tso'), ('sna', 'umb'), ('sna', 'xho'), ('sna', 'yor'), ('sna', 'zul'), ('som', 'ssw'), ('som', 'swh'), ('som', 'tsn'), ('som', 'tso'), ('som', 'umb'), ('som', 'wol'), ('som', 'xho'), ('som', 'yor'), ('som', 'zul'), ('ssw', 'swh'), ('ssw', 'tsn'), ('ssw', 'tso'), ('ssw', 'umb'), ('ssw', 'xho'), ('ssw', 'yor'), ('ssw', 'zul'), ('swh', 'tsn'), ('swh', 'tso'), ('swh', 'umb'), ('swh', 'xho'), ('swh', 'yor'), ('swh', 'zul'), ('tsn', 'tso'), ('tsn', 'umb'), ('tsn', 'xho'), ('tsn', 'yor'), ('tsn', 'zul'), ('tso', 'umb'), ('tso', 'xho'), ('tso', 'yor'), ('tso', 'zul'), ('umb', 'xho'), ('umb', 'yor'), ('umb', 'zul'), ('xho', 'yor'), ('xho', 'zul'), ('yor', 'zul')]
41
  self.tgt_lg = tgt_lg
42
 
43
 
44
+ class Wmt22African(datasets.GeneratorBasedBuilder):
45
+ """WMT African Languages Shared Task."""
46
 
47
  BUILDER_CONFIGS = [
48
  Wmt22AfricanTaskConfig(
49
  name=f"{src_lg}-{tgt_lg}",
50
  version=datasets.Version("1.1.0"),
51
+ description=f"WMT 2022 African Languages: {src_lg} - {tgt_lg}",
52
  src_lg=src_lg,
53
  tgt_lg=tgt_lg,
54
  )