Datasets:

ArXiv:
nllb / ccmatrix_lang_pairs.py
Guillaume Wenzek
cleanup language list
69397c2
raw history blame
No virus
22.9 kB
"""
Lang pairs found on http://data.statmt.org/cc-matrix/
Note that 4 languages are ommitted because they didn't make the cut in NLLB200:
br (Breton), eu (Basque), fy(Western Frisian) and la (Latin).
"""
PAIRS = [
("af", "da"),
("af", "de"),
("af", "en"),
("af", "is"),
("af", "lb"),
("af", "nl"),
("af", "no"),
("af", "sv"),
("af", "tr"),
("af", "yi"),
("am", "ha"),
("am", "ig"),
("am", "sw"),
("am", "yo"),
("ar", "az"),
("ar", "bg"),
("ar", "bn"),
("ar", "ca"),
("ar", "cs"),
("ar", "da"),
("ar", "de"),
("ar", "el"),
("ar", "en"),
("ar", "eo"),
("ar", "es"),
("ar", "et"),
("ar", "fa"),
("ar", "fi"),
("ar", "fr"),
("ar", "he"),
("ar", "hi"),
("ar", "hr"),
("ar", "hu"),
("ar", "hy"),
("ar", "id"),
("ar", "it"),
("ar", "ja"),
("ar", "ka"),
("ar", "kk"),
("ar", "km"),
("ar", "ko"),
("ar", "lg"),
("ar", "lt"),
("ar", "lv"),
("ar", "ml"),
("ar", "mr"),
("ar", "ms"),
("ar", "my"),
("ar", "ne"),
("ar", "nl"),
("ar", "no"),
("ar", "om"),
("ar", "or"),
("ar", "pl"),
("ar", "pt"),
("ar", "ro"),
("ar", "ru"),
("ar", "sd"),
("ar", "si"),
("ar", "sk"),
("ar", "sl"),
("ar", "sq"),
("ar", "sr"),
("ar", "sv"),
("ar", "sw"),
("ar", "ta"),
("ar", "tl"),
("ar", "tr"),
("ar", "uk"),
("ar", "ur"),
("ar", "uz"),
("ar", "vi"),
("ar", "xh"),
("ar", "zh"),
("ar", "zu"),
("ast", "ca"),
("ast", "en"),
("ast", "es"),
("ast", "fr"),
("ast", "gl"),
("ast", "it"),
("ast", "oc"),
("ast", "pt"),
("ast", "ro"),
("az", "en"),
("az", "hy"),
("az", "id"),
("az", "ka"),
("az", "kk"),
("az", "km"),
("az", "my"),
("az", "tr"),
("az", "tt"),
("az", "vi"),
("be", "bg"),
("be", "bn"),
("be", "cs"),
("be", "da"),
("be", "de"),
("be", "el"),
("be", "en"),
("be", "eo"),
("be", "et"),
("be", "fi"),
("be", "hi"),
("be", "hr"),
("be", "hu"),
("be", "it"),
("be", "lt"),
("be", "lv"),
("be", "nl"),
("be", "no"),
("be", "pl"),
("be", "ro"),
("be", "ru"),
("be", "sk"),
("be", "sl"),
("be", "sq"),
("be", "sr"),
("be", "sv"),
("be", "sw"),
("be", "tr"),
("be", "uk"),
("be", "vi"),
("bg", "bn"),
("bg", "ca"),
("bg", "cs"),
("bg", "da"),
("bg", "de"),
("bg", "el"),
("bg", "en"),
("bg", "eo"),
("bg", "es"),
("bg", "et"),
("bg", "fi"),
("bg", "fr"),
("bg", "he"),
("bg", "hi"),
("bg", "hr"),
("bg", "hu"),
("bg", "id"),
("bg", "it"),
("bg", "ja"),
("bg", "ko"),
("bg", "lt"),
("bg", "lv"),
("bg", "mk"),
("bg", "nl"),
("bg", "no"),
("bg", "pl"),
("bg", "pt"),
("bg", "ro"),
("bg", "ru"),
("bg", "sk"),
("bg", "sl"),
("bg", "sq"),
("bg", "sr"),
("bg", "sv"),
("bg", "sw"),
("bg", "ta"),
("bg", "tr"),
("bg", "uk"),
("bg", "vi"),
("bg", "zh"),
("bn", "ca"),
("bn", "cs"),
("bn", "de"),
("bn", "el"),
("bn", "en"),
("bn", "eo"),
("bn", "es"),
("bn", "et"),
("bn", "fa"),
("bn", "fi"),
("bn", "fr"),
("bn", "he"),
("bn", "hi"),
("bn", "hu"),
("bn", "id"),
("bn", "ilo"),
("bn", "it"),
("bn", "ja"),
("bn", "ko"),
("bn", "lt"),
("bn", "lv"),
("bn", "mg"),
("bn", "mk"),
("bn", "ml"),
("bn", "mr"),
("bn", "ms"),
("bn", "ne"),
("bn", "nl"),
("bn", "or"),
("bn", "pl"),
("bn", "pt"),
("bn", "ro"),
("bn", "ru"),
("bn", "si"),
("bn", "sk"),
("bn", "sl"),
("bn", "sr"),
("bn", "sv"),
("bn", "sw"),
("bn", "ta"),
("bn", "tl"),
("bn", "tr"),
("bn", "uk"),
("bn", "ur"),
("bn", "vi"),
("bn", "zh"),
("ca", "da"),
("ca", "el"),
("ca", "en"),
("ca", "eo"),
("ca", "es"),
("ca", "et"),
("ca", "fa"),
("ca", "fi"),
("ca", "fr"),
("ca", "gl"),
("ca", "he"),
("ca", "hi"),
("ca", "hu"),
("ca", "id"),
("ca", "it"),
("ca", "lt"),
("ca", "lv"),
("ca", "no"),
("ca", "oc"),
("ca", "pt"),
("ca", "ro"),
("ca", "sk"),
("ca", "sl"),
("ca", "sq"),
("ca", "sr"),
("ca", "sw"),
("ca", "ta"),
("ca", "uk"),
("ceb", "de"),
("ceb", "en"),
("ceb", "hi"),
("ceb", "id"),
("ceb", "ilo"),
("ceb", "ja"),
("ceb", "jv"),
("ceb", "mg"),
("ceb", "ml"),
("ceb", "ms"),
("ceb", "su"),
("ceb", "tl"),
("cs", "da"),
("cs", "de"),
("cs", "el"),
("cs", "en"),
("cs", "eo"),
("cs", "es"),
("cs", "et"),
("cs", "fa"),
("cs", "fi"),
("cs", "fr"),
("cs", "he"),
("cs", "hi"),
("cs", "hr"),
("cs", "hu"),
("cs", "id"),
("cs", "it"),
("cs", "ja"),
("cs", "ko"),
("cs", "lt"),
("cs", "lv"),
("cs", "mk"),
("cs", "nl"),
("cs", "no"),
("cs", "pl"),
("cs", "pt"),
("cs", "ro"),
("cs", "ru"),
("cs", "sk"),
("cs", "sl"),
("cs", "sq"),
("cs", "sr"),
("cs", "sv"),
("cs", "sw"),
("cs", "ta"),
("cs", "tr"),
("cs", "uk"),
("cs", "vi"),
("cs", "zh"),
("cy", "nl"),
("da", "de"),
("da", "el"),
("da", "en"),
("da", "eo"),
("da", "es"),
("da", "et"),
("da", "fa"),
("da", "fi"),
("da", "fr"),
("da", "gd"),
("da", "he"),
("da", "hr"),
("da", "hu"),
("da", "id"),
("da", "is"),
("da", "it"),
("da", "ja"),
("da", "ko"),
("da", "lb"),
("da", "lt"),
("da", "lv"),
("da", "mk"),
("da", "nl"),
("da", "no"),
("da", "pl"),
("da", "pt"),
("da", "ro"),
("da", "ru"),
("da", "sk"),
("da", "sl"),
("da", "sq"),
("da", "sr"),
("da", "sv"),
("da", "ta"),
("da", "tr"),
("da", "uk"),
("da", "vi"),
("da", "yi"),
("da", "zh"),
("de", "el"),
("de", "en"),
("de", "eo"),
("de", "es"),
("de", "et"),
("de", "fa"),
("de", "fi"),
("de", "fr"),
("de", "ha"),
("de", "he"),
("de", "hi"),
("de", "hr"),
("de", "hu"),
("de", "id"),
("de", "ilo"),
("de", "is"),
("de", "it"),
("de", "ja"),
("de", "jv"),
("de", "ko"),
("de", "lb"),
("de", "lt"),
("de", "lv"),
("de", "mg"),
("de", "mk"),
("de", "ml"),
("de", "ms"),
("de", "nl"),
("de", "no"),
("de", "pl"),
("de", "pt"),
("de", "ro"),
("de", "ru"),
("de", "sk"),
("de", "sl"),
("de", "sq"),
("de", "sr"),
("de", "su"),
("de", "sv"),
("de", "sw"),
("de", "ta"),
("de", "tl"),
("de", "tr"),
("de", "uk"),
("de", "vi"),
("de", "yi"),
("de", "yo"),
("de", "zh"),
("el", "en"),
("el", "eo"),
("el", "es"),
("el", "et"),
("el", "fa"),
("el", "fi"),
("el", "fr"),
("el", "he"),
("el", "hi"),
("el", "hu"),
("el", "id"),
("el", "it"),
("el", "ja"),
("el", "ko"),
("el", "lt"),
("el", "lv"),
("el", "nl"),
("el", "no"),
("el", "pl"),
("el", "pt"),
("el", "ro"),
("el", "ru"),
("el", "sk"),
("el", "sl"),
("el", "sq"),
("el", "sr"),
("el", "sv"),
("el", "sw"),
("el", "ta"),
("el", "tr"),
("el", "uk"),
("el", "vi"),
("el", "zh"),
("en", "eo"),
("en", "es"),
("en", "et"),
("en", "fa"),
("en", "fi"),
("en", "fr"),
("en", "ga"),
("en", "gd"),
("en", "gl"),
("en", "ha"),
("en", "he"),
("en", "hi"),
("en", "hr"),
("en", "hu"),
("en", "id"),
("en", "ig"),
("en", "ilo"),
("en", "is"),
("en", "it"),
("en", "ja"),
("en", "jv"),
("en", "ko"),
("en", "lb"),
("en", "lt"),
("en", "lv"),
("en", "mg"),
("en", "mk"),
("en", "ml"),
("en", "mr"),
("en", "ms"),
("en", "ne"),
("en", "nl"),
("en", "no"),
("en", "oc"),
("en", "or"),
("en", "pl"),
("en", "pt"),
("en", "ro"),
("en", "ru"),
("en", "sd"),
("en", "si"),
("en", "sk"),
("en", "sl"),
("en", "so"),
("en", "sq"),
("en", "sr"),
("en", "su"),
("en", "sv"),
("en", "sw"),
("en", "ta"),
("en", "tl"),
("en", "tr"),
("en", "uk"),
("en", "ur"),
("en", "vi"),
("en", "xh"),
("en", "yi"),
("en", "zh"),
("eo", "es"),
("eo", "et"),
("eo", "fa"),
("eo", "fi"),
("eo", "fr"),
("eo", "he"),
("eo", "hr"),
("eo", "hu"),
("eo", "it"),
("eo", "lt"),
("eo", "lv"),
("eo", "mk"),
("eo", "nl"),
("eo", "no"),
("eo", "ro"),
("eo", "sk"),
("eo", "sl"),
("eo", "sq"),
("eo", "sr"),
("eo", "sv"),
("eo", "sw"),
("eo", "uk"),
("es", "et"),
("es", "fa"),
("es", "fi"),
("es", "fr"),
("es", "gl"),
("es", "he"),
("es", "hi"),
("es", "hu"),
("es", "id"),
("es", "it"),
("es", "ja"),
("es", "ko"),
("es", "lt"),
("es", "lv"),
("es", "mk"),
("es", "nl"),
("es", "no"),
("es", "oc"),
("es", "pl"),
("es", "pt"),
("es", "ro"),
("es", "ru"),
("es", "sk"),
("es", "sl"),
("es", "sq"),
("es", "sr"),
("es", "sv"),
("es", "sw"),
("es", "ta"),
("es", "tr"),
("es", "uk"),
("es", "vi"),
("es", "zh"),
("et", "fa"),
("et", "fi"),
("et", "fr"),
("et", "he"),
("et", "hi"),
("et", "hr"),
("et", "hu"),
("et", "id"),
("et", "it"),
("et", "ko"),
("et", "lt"),
("et", "lv"),
("et", "mk"),
("et", "nl"),
("et", "no"),
("et", "pl"),
("et", "pt"),
("et", "ro"),
("et", "ru"),
("et", "sk"),
("et", "sl"),
("et", "sq"),
("et", "sr"),
("et", "sv"),
("et", "sw"),
("et", "ta"),
("et", "tr"),
("et", "uk"),
("et", "vi"),
("et", "zh"),
("fa", "fi"),
("fa", "fr"),
("fa", "he"),
("fa", "hi"),
("fa", "hr"),
("fa", "hu"),
("fa", "id"),
("fa", "it"),
("fa", "ja"),
("fa", "ko"),
("fa", "lt"),
("fa", "lv"),
("fa", "ml"),
("fa", "mr"),
("fa", "ms"),
("fa", "ne"),
("fa", "nl"),
("fa", "no"),
("fa", "or"),
("fa", "pl"),
("fa", "pt"),
("fa", "ro"),
("fa", "ru"),
("fa", "sd"),
("fa", "si"),
("fa", "sk"),
("fa", "sl"),
("fa", "sq"),
("fa", "sr"),
("fa", "sv"),
("fa", "sw"),
("fa", "ta"),
("fa", "tl"),
("fa", "tr"),
("fa", "uk"),
("fa", "ur"),
("fa", "uz"),
("fa", "vi"),
("fa", "zh"),
("fi", "fr"),
("fi", "he"),
("fi", "hi"),
("fi", "hr"),
("fi", "hu"),
("fi", "id"),
("fi", "it"),
("fi", "ja"),
("fi", "ko"),
("fi", "lt"),
("fi", "lv"),
("fi", "mk"),
("fi", "nl"),
("fi", "no"),
("fi", "pl"),
("fi", "pt"),
("fi", "ro"),
("fi", "ru"),
("fi", "sk"),
("fi", "sl"),
("fi", "sq"),
("fi", "sr"),
("fi", "sv"),
("fi", "sw"),
("fi", "ta"),
("fi", "tr"),
("fi", "uk"),
("fi", "vi"),
("fi", "zh"),
("fr", "gl"),
("fr", "he"),
("fr", "hi"),
("fr", "hr"),
("fr", "hu"),
("fr", "id"),
("fr", "it"),
("fr", "ja"),
("fr", "ko"),
("fr", "lt"),
("fr", "lv"),
("fr", "ml"),
("fr", "ms"),
("fr", "nl"),
("fr", "no"),
("fr", "oc"),
("fr", "pl"),
("fr", "pt"),
("fr", "ro"),
("fr", "ru"),
("fr", "sk"),
("fr", "sl"),
("fr", "sr"),
("fr", "sv"),
("fr", "sw"),
("fr", "ta"),
("fr", "tl"),
("fr", "tr"),
("fr", "uk"),
("fr", "vi"),
("fr", "zh"),
("ga", "nl"),
("gd", "nl"),
("gd", "no"),
("gl", "it"),
("gl", "oc"),
("gl", "pt"),
("gl", "ro"),
("gl", "tr"),
("ha", "ig"),
("ha", "nl"),
("ha", "sw"),
("ha", "yo"),
("he", "hi"),
("he", "hu"),
("he", "id"),
("he", "ja"),
("he", "ko"),
("he", "lt"),
("he", "lv"),
("he", "mg"),
("he", "ml"),
("he", "mr"),
("he", "ms"),
("he", "ne"),
("he", "nl"),
("he", "no"),
("he", "pl"),
("he", "pt"),
("he", "ro"),
("he", "ru"),
("he", "si"),
("he", "sk"),
("he", "sl"),
("he", "sq"),
("he", "sr"),
("he", "sv"),
("he", "sw"),
("he", "ta"),
("he", "tl"),
("he", "tr"),
("he", "uk"),
("he", "ur"),
("he", "vi"),
("he", "zh"),
("hi", "hu"),
("hi", "id"),
("hi", "ilo"),
("hi", "it"),
("hi", "ja"),
("hi", "jv"),
("hi", "ko"),
("hi", "lt"),
("hi", "lv"),
("hi", "mg"),
("hi", "ml"),
("hi", "mr"),
("hi", "ms"),
("hi", "ne"),
("hi", "nl"),
("hi", "or"),
("hi", "pl"),
("hi", "pt"),
("hi", "ro"),
("hi", "ru"),
("hi", "si"),
("hi", "sk"),
("hi", "sl"),
("hi", "sr"),
("hi", "sv"),
("hi", "sw"),
("hi", "ta"),
("hi", "tl"),
("hi", "tr"),
("hi", "uk"),
("hi", "ur"),
("hi", "vi"),
("hi", "zh"),
("hr", "hu"),
("hr", "lt"),
("hr", "lv"),
("hr", "mk"),
("hr", "no"),
("hr", "pl"),
("hr", "ro"),
("hr", "ru"),
("hr", "sk"),
("hr", "sl"),
("hr", "sq"),
("hr", "sr"),
("hr", "ta"),
("hr", "uk"),
("hr", "zh"),
("hu", "id"),
("hu", "it"),
("hu", "ja"),
("hu", "ko"),
("hu", "lt"),
("hu", "lv"),
("hu", "mk"),
("hu", "nl"),
("hu", "no"),
("hu", "om"),
("hu", "pl"),
("hu", "pt"),
("hu", "ro"),
("hu", "ru"),
("hu", "sk"),
("hu", "sl"),
("hu", "sq"),
("hu", "sr"),
("hu", "sv"),
("hu", "sw"),
("hu", "ta"),
("hu", "tr"),
("hu", "uk"),
("hu", "vi"),
("hu", "xh"),
("hu", "zh"),
("hu", "zu"),
("hy", "ka"),
("hy", "kk"),
("hy", "km"),
("hy", "my"),
("hy", "tr"),
("hy", "tt"),
("hy", "vi"),
("id", "ilo"),
("id", "it"),
("id", "ja"),
("id", "jv"),
("id", "ko"),
("id", "lt"),
("id", "lv"),
("id", "mg"),
("id", "ml"),
("id", "mr"),
("id", "ms"),
("id", "ne"),
("id", "nl"),
("id", "no"),
("id", "pl"),
("id", "pt"),
("id", "ro"),
("id", "ru"),
("id", "si"),
("id", "sk"),
("id", "sl"),
("id", "sr"),
("id", "su"),
("id", "sv"),
("id", "sw"),
("id", "ta"),
("id", "tl"),
("id", "tr"),
("id", "uk"),
("id", "ur"),
("id", "vi"),
("id", "zh"),
("ig", "nl"),
("ig", "sw"),
("ig", "yo"),
("ilo", "jv"),
("ilo", "mg"),
("ilo", "ml"),
("ilo", "ms"),
("ilo", "su"),
("ilo", "tl"),
("is", "lb"),
("is", "nl"),
("is", "no"),
("is", "sv"),
("is", "yi"),
("it", "ja"),
("it", "ko"),
("it", "lt"),
("it", "lv"),
("it", "nl"),
("it", "no"),
("it", "oc"),
("it", "pl"),
("it", "pt"),
("it", "ro"),
("it", "ru"),
("it", "sk"),
("it", "sl"),
("it", "sq"),
("it", "sr"),
("it", "sv"),
("it", "sw"),
("it", "ta"),
("it", "tr"),
("it", "uk"),
("it", "vi"),
("it", "zh"),
("ja", "ko"),
("ja", "lt"),
("ja", "ml"),
("ja", "ms"),
("ja", "nl"),
("ja", "no"),
("ja", "pl"),
("ja", "pt"),
("ja", "ro"),
("ja", "ru"),
("ja", "sk"),
("ja", "sl"),
("ja", "sr"),
("ja", "sv"),
("ja", "sw"),
("ja", "ta"),
("ja", "tl"),
("ja", "tr"),
("ja", "uk"),
("ja", "vi"),
("ja", "zh"),
("jv", "mg"),
("jv", "ml"),
("jv", "ms"),
("jv", "su"),
("jv", "tl"),
("ka", "kk"),
("ka", "tr"),
("ka", "tt"),
("ka", "vi"),
("kk", "tr"),
("kk", "tt"),
("kk", "vi"),
("km", "tr"),
("ko", "lt"),
("ko", "lv"),
("ko", "mk"),
("ko", "nl"),
("ko", "no"),
("ko", "pl"),
("ko", "pt"),
("ko", "ru"),
("ko", "sk"),
("ko", "sl"),
("ko", "sr"),
("ko", "sv"),
("ko", "sw"),
("ko", "ta"),
("ko", "tr"),
("ko", "uk"),
("ko", "vi"),
("ko", "zh"),
("lb", "nl"),
("lb", "no"),
("lb", "zh"),
("lg", "sw"),
("lt", "lv"),
("lt", "mg"),
("lt", "mk"),
("lt", "nl"),
("lt", "no"),
("lt", "pl"),
("lt", "pt"),
("lt", "ro"),
("lt", "ru"),
("lt", "sk"),
("lt", "sl"),
("lt", "sq"),
("lt", "sr"),
("lt", "sv"),
("lt", "sw"),
("lt", "ta"),
("lt", "tr"),
("lt", "uk"),
("lt", "vi"),
("lt", "zh"),
("lv", "mk"),
("lv", "nl"),
("lv", "no"),
("lv", "pl"),
("lv", "pt"),
("lv", "ro"),
("lv", "ru"),
("lv", "sk"),
("lv", "sl"),
("lv", "sq"),
("lv", "sr"),
("lv", "sv"),
("lv", "sw"),
("lv", "ta"),
("lv", "tr"),
("lv", "uk"),
("lv", "vi"),
("lv", "zh"),
("mg", "ml"),
("mg", "ms"),
("mg", "ru"),
("mg", "su"),
("mg", "ta"),
("mg", "tl"),
("mg", "zh"),
("mk", "nl"),
("mk", "no"),
("mk", "pl"),
("mk", "ro"),
("mk", "ru"),
("mk", "sk"),
("mk", "sl"),
("mk", "sq"),
("mk", "sv"),
("mk", "uk"),
("mk", "vi"),
("mk", "zh"),
("ml", "ms"),
("ml", "ru"),
("ml", "su"),
("ml", "ta"),
("ml", "tl"),
("ml", "tr"),
("ml", "zh"),
("mr", "ne"),
("mr", "or"),
("mr", "ru"),
("mr", "si"),
("mr", "ta"),
("mr", "tr"),
("mr", "ur"),
("ms", "ru"),
("ms", "su"),
("ms", "ta"),
("ms", "tl"),
("ms", "tr"),
("ms", "vi"),
("ms", "zh"),
("my", "tr"),
("ne", "or"),
("ne", "ru"),
("ne", "si"),
("ne", "ta"),
("ne", "tr"),
("ne", "ur"),
("nl", "no"),
("nl", "pl"),
("nl", "pt"),
("nl", "ro"),
("nl", "ru"),
("nl", "sk"),
("nl", "sl"),
("nl", "so"),
("nl", "sr"),
("nl", "sv"),
("nl", "sw"),
("nl", "ta"),
("nl", "tr"),
("nl", "uk"),
("nl", "vi"),
("nl", "yi"),
("nl", "yo"),
("nl", "zh"),
("no", "pl"),
("no", "pt"),
("no", "ro"),
("no", "ru"),
("no", "sk"),
("no", "sl"),
("no", "sq"),
("no", "sr"),
("no", "sv"),
("no", "ta"),
("no", "tr"),
("no", "uk"),
("no", "vi"),
("no", "yi"),
("no", "zh"),
("oc", "pt"),
("oc", "ro"),
("om", "sw"),
("or", "si"),
("or", "ta"),
("or", "ur"),
("pl", "pt"),
("pl", "ro"),
("pl", "ru"),
("pl", "sk"),
("pl", "sl"),
("pl", "sq"),
("pl", "sr"),
("pl", "sv"),
("pl", "sw"),
("pl", "ta"),
("pl", "tr"),
("pl", "uk"),
("pl", "vi"),
("pl", "zh"),
("pt", "ro"),
("pt", "ru"),
("pt", "sk"),
("pt", "sl"),
("pt", "sr"),
("pt", "sv"),
("pt", "sw"),
("pt", "ta"),
("pt", "tr"),
("pt", "uk"),
("pt", "vi"),
("pt", "zh"),
("ro", "sk"),
("ro", "sl"),
("ro", "sq"),
("ro", "sr"),
("ro", "sv"),
("ro", "ta"),
("ro", "tr"),
("ro", "uk"),
("ro", "vi"),
("ro", "zh"),
("ru", "si"),
("ru", "sk"),
("ru", "sl"),
("ru", "sq"),
("ru", "sr"),
("ru", "sv"),
("ru", "sw"),
("ru", "ta"),
("ru", "tl"),
("ru", "tr"),
("ru", "uk"),
("ru", "ur"),
("ru", "vi"),
("ru", "zh"),
("si", "ta"),
("si", "tr"),
("si", "ur"),
("sk", "sl"),
("sk", "sq"),
("sk", "sr"),
("sk", "sv"),
("sk", "sw"),
("sk", "ta"),
("sk", "tr"),
("sk", "uk"),
("sk", "vi"),
("sk", "zh"),
("sl", "sq"),
("sl", "sr"),
("sl", "sv"),
("sl", "sw"),
("sl", "ta"),
("sl", "tr"),
("sl", "uk"),
("sl", "vi"),
("sl", "zh"),
("so", "sw"),
("sq", "sr"),
("sq", "sv"),
("sq", "tr"),
("sq", "uk"),
("sr", "sv"),
("sr", "sw"),
("sr", "ta"),
("sr", "tr"),
("sr", "uk"),
("sr", "vi"),
("sr", "zh"),
("su", "tl"),
("sv", "sw"),
("sv", "ta"),
("sv", "tr"),
("sv", "uk"),
("sv", "vi"),
("sv", "zh"),
("sw", "ta"),
("sw", "tr"),
("sw", "uk"),
("sw", "vi"),
("sw", "wo"),
("sw", "xh"),
("sw", "yo"),
("sw", "zh"),
("sw", "zu"),
("ta", "tl"),
("ta", "tr"),
("ta", "uk"),
("ta", "ur"),
("ta", "vi"),
("ta", "zh"),
("tl", "tr"),
("tl", "vi"),
("tl", "zh"),
("tr", "uk"),
("tr", "ur"),
("tr", "uz"),
("tr", "vi"),
("tr", "zh"),
("uk", "vi"),
("uk", "zh"),
("vi", "zh"),
("yi", "zh"),
]
# Mapping from the language codes used in CCMatrix and the one used in NLLB200.
# NLLB200 went for a more detailed nomenclature to avoid confusion between dialects.
MAPPING = {
"af": "afr_Latn",
"am": "amh_Ethi",
"ar": "arb_Arab",
"ast": "ast_Latn",
"az": "azj_Latn",
"be": "bel_Cyrl",
"bg": "bul_Cyrl",
"bn": "ben_Beng",
"ca": "cat_Latn",
"ceb": "ceb_Latn",
"cs": "ces_Latn",
"cy": "cym_Latn",
"da": "dan_Latn",
"de": "deu_Latn",
"el": "ell_Grek",
"en": "eng_Latn",
"eo": "epo_Latn",
"es": "spa_Latn",
"et": "est_Latn",
"fa": "pes_Arab",
"fi": "fin_Latn",
"fr": "fra_Latn",
"ga": "gle_Latn",
"gd": "gla_Latn",
"gl": "glg_Latn",
"ha": "hau_Latn",
"he": "heb_Hebr",
"hi": "hin_Deva",
"hr": "hrv_Latn",
"hu": "hun_Latn",
"hy": "hye_Armn",
"id": "ind_Latn",
"ig": "ibo_Latn",
"ilo": "ilo_Latn",
"is": "isl_Latn",
"it": "ita_Latn",
"ja": "jpn_Jpan",
"jv": "jav_Latn",
"ka": "kat_Geor",
"kk": "kaz_Cyrl",
"km": "khm_Khmr",
"ko": "kor_Hang",
"lb": "ltz_Latn",
"lg": "lug_Latn",
"lt": "lit_Latn",
"lv": "lvs_Latn",
"mg": "plt_Latn",
"mk": "mkd_Cyrl",
"ml": "mal_Mlym",
"mr": "mar_Deva",
"ms": "zsm_Latn",
"my": "mya_Mymr",
"ne": "npi_Deva",
"nl": "nld_Latn",
"no": "nob_Latn",
"oc": "oci_Latn",
"om": "gaz_Latn",
"or": "ory_Orya",
"pl": "pol_Latn",
"pt": "por_Latn",
"ro": "ron_Latn",
"ru": "rus_Cyrl",
"sd": "snd_Arab",
"si": "sin_Sinh",
"sk": "slk_Latn",
"sl": "slv_Latn",
"so": "som_Latn",
"sq": "als_Latn",
"sr": "srp_Cyrl",
"su": "sun_Latn",
"sv": "swe_Latn",
"sw": "swh_Latn",
"ta": "tam_Taml",
"tl": "tgl_Latn",
"tr": "tur_Latn",
"tt": "tat_Cyrl",
"uk": "ukr_Cyrl",
"ur": "urd_Arab",
"uz": "uzn_Latn",
"vi": "vie_Latn",
"wo": "wol_Latn",
"xh": "xho_Latn",
"yi": "ydd_Hebr",
"yo": "yor_Latn",
"zh": "zho_Hans",
"zu": "zul_Latn",
}