Dataset Viewer
Auto-converted to Parquet Duplicate
id
int64
1
441k
tokens
listlengths
4
33
tags
listlengths
4
33
1
[ "Kar", "thum", "chawlh", "Liana-an", "a", "la." ]
[ "O", "O", "O", "B-PERSON", "O", "O" ]
2
[ "English", "ka", "thiam", "lo", "tak", "zet", "a", "ni." ]
[ "B-LANGUAGE", "O", "O", "O", "O", "O", "O", "O" ]
3
[ "Aizawlah", "an", "thuthmun", "tur", "ngaihtuah", "mek", "a", "ni." ]
[ "B-GPE", "O", "O", "O", "O", "O", "O", "O" ]
4
[ "Sanga", "in", "tur", "ka", "lei." ]
[ "B-PERSON", "O", "O", "O", "O" ]
5
[ "American", "nu", "leh", "pa", "tam", "takin", "an", "fate", "in", "lama", "zirtir", "an", "thlang", "telh", "telh." ]
[ "B-NORP", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
6
[ "A", "baseball", "bat", "in", "Alvin-an", "bang", "a", "vua." ]
[ "O", "O", "O", "O", "B-PERSON", "O", "O", "O" ]
7
[ "Alvin", "chuan", "Cairo", "kawtthler", "atangin", "Cindy", "a", "chhan", "chhuak", "a." ]
[ "B-PERSON", "O", "B-GPE", "O", "O", "B-PERSON", "O", "O", "O", "O" ]
8
[ "Faka", "thusawi", "kha", "lo", "awih", "ila", "ṭha", "tur." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O" ]
9
[ "Tu", "nge", "Mary", "chu,", "leh", "engtin", "nge", "min", "hriat?" ]
[ "O", "O", "B-PERSON", "O", "O", "O", "O", "O", "O" ]
10
[ "Tu", "nge", "a", "nih", "Kunga", "an", "a", "zawt." ]
[ "O", "O", "O", "O", "B-PERSON", "O", "O", "O" ]
11
[ "Lali", "in", "a", "tih", "tur", "a", "tih", "loh", "chhan", "a", "hriat", "loh", "thu", "Thara", "an", "min", "hrilh." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-PERSON", "O", "O", "O" ]
12
[ "Thawhṭan", "zan", "Serie", "A", "inkhel", "dangah", "Atalanta", "chuan", "Lecce", "chu", "4-0", "ngawtin", "an", "sawp", "bawk." ]
[ "O", "O", "B-ORG", "I-ORG", "O", "O", "B-GPE", "O", "O", "O", "O", "O", "O", "O", "O" ]
13
[ "Kum", "1953-a", "VL.", "Siama", "lehkhabu", "ziak", "‘Mizo", "History’", "pawh", "chu", "ziak", "hmasa", "pawl", "a", "ni." ]
[ "O", "O", "B-GPE", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
14
[ "Hminga", "chuan", "Mawii-in", "a", "tana", "a", "tihsak", "zawng", "zawngah", "a", "lawm." ]
[ "B-PERSON", "O", "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O" ]
15
[ "AMC", "hian", "Sawrkar", "term", "thumna", "kan", "hmang", "mek", "a." ]
[ "B-ORG", "O", "O", "O", "O", "O", "O", "O", "O" ]
16
[ "Ka", "chenna", "atanga", "block", "khat", "lekin", "Boston-ah", "i", "cheng", "ve", "tih", "ka", "awih", "thei", "lo." ]
[ "O", "O", "O", "O", "O", "O", "B-GPE", "O", "O", "O", "O", "O", "O", "O", "O" ]
17
[ "Mahse,", "kan", "Bibleah", "meuh", "pawh", "zai", "leh", "lâma", "Pathian", "fak", "tur", "kan", "nihzia", "te", "a", "lang", "nasa", "hle", "a." ]
[ "O", "O", "B-WORK_OF_ART", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
18
[ "England", "hian", "2016", "European", "Championship", "qualifying", "an", "khel", "ṭha", "rih", "hle." ]
[ "B-GPE", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
19
[ "Tin", "Jakoba", "chu", "Suria", "mi", "Labana", "hriat", "loh", "hlânin", "a", "kal", "ru", "ta", "daih", "a", "a", "tlân", "bo", "tûr", "chu", "a", "hrilh", "lo", "va." ]
[ "O", "O", "O", "O", "O", "B-ORG", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
20
[ "Kerala-in", "khung", "belh", "tum", "loin", "goal", "venhim", "hna", "an", "chhunzawm." ]
[ "B-GPE", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
21
[ "Dinga'n", "a", "dawt", "a", "tih", "tur", "thlan", "har", "a", "ti." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
22
[ "Faka", "chungchang", "engmah", "ka", "hre", "duh", "tawh", "lo." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O" ]
23
[ "Chuvang", "chuan", "Kristian", "chhûngkua", "hi", "KṬP", "member-te", "hian", "nupui", "pasal", "kan", "inneih", "hma", "aṭanga", "din", "tura", "hma", "kan", "laka", "kan", "inbuatsaih", "a", "ṭul", "hle", "a", "ni." ]
[ "O", "O", "O", "O", "O", "B-ORG", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
24
[ "Germany", "captain", "hlui", "Lahm", "chuan,", "Bayern", "tana", "hnehna", "chan", "hi", "tih", "ṭhanah", "kan", "nei", "tawh." ]
[ "B-GPE", "O", "O", "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
26
[ "Congress", "chuan", "mipui", "tan", "hna", "kan", "thawk", "ṭhin." ]
[ "B-ORG", "O", "O", "O", "O", "O", "O", "O" ]
27
[ "Dinga", "vuina", "hun", "ṭha", "an", "hmang", "thei", "lo." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O" ]
28
[ "Puia", "nen", "kan", "la", "ti", "ngai", "lo." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O" ]
29
[ "Kum", "2013", "a", "hman", "tur", "pawh", "kha", "an", "theihnghilh", "hman", "tep", "niin", "NLUP", "thuneitu", "pakhat", "chuan", "min", "hrilh." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-ORG", "O", "O", "O", "O", "O" ]
30
[ "Guwahati", "leh", "state", "chhung", "hmun", "dang", "ṭhenkhat", "pawh", "a", "sawi", "tel." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
32
[ "Feli", "chu", "sikul", "kal", "a", "tlai", "fo", "thin." ]
[ "B-NORP", "O", "O", "O", "O", "O", "O", "O" ]
33
[ "Chhuanga", "chuan", "thawnthu", "pum", "pui", "chu", "a", "ngaina", "hle." ]
[ "B-GPE", "O", "O", "O", "O", "O", "O", "O", "O" ]
34
[ "Badminton", "leh", "Volleyball", "te", "pawh", "a", "khel", "nasa", "ve", "viau", "thin." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
35
[ "Muana", "chuan", "Thari'n", "chu", "thil", "a", "tih", "a", "ngai", "a", "ring", "lo." ]
[ "B-PERSON", "O", "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
37
[ "Tatoeba", "hi", "finna", "hnar", "a", "ni." ]
[ "B-ORG", "O", "O", "O", "O", "O" ]
38
[ "Puia", "leh", "Siami'n", "an", "be", "tawh", "che", "em?" ]
[ "B-PERSON", "O", "B-PERSON", "O", "O", "O", "O", "O" ]
39
[ "Scotland", "atanga", "lo", "kal", "a", "nih", "loh", "a,", "kum", "sawm", "leh", "pahnih", "aia", "tlem", "lo", "upa", "a", "nih", "loh", "chuan,", "whisky", "a", "ni", "lo." ]
[ "B-GPE", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
40
[ "Full", "back", "pahnih", "Leonardo", "Spinazzola", "leh", "Joao", "Cancelo", "te", "pawhin", "tlan", "chhuak", "tam", "turin", "thupek", "an", "dawng." ]
[ "O", "O", "O", "B-PERSON", "I-PERSON", "O", "B-PERSON", "I-PERSON", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
41
[ "Chilean", "manager", "Pellegrini", "chuan,", "Tun", "dinhmunah", "chuan", "Kompany", "dinhmun", "hi", "sawi", "thiam", "a", "harsa", "hle." ]
[ "B-NORP", "O", "B-PERSON", "O", "O", "O", "O", "B-GPE", "O", "O", "O", "O", "O", "O", "O" ]
42
[ "John", "Wesley-a", "phei", "chuan", "ṭhalai", "min", "pe", "ula,", "ka", "duh", "ang", "takin", "ka", "enkawl", "ang", "a,", "khawvel", "hi", "ka", "chawk", "danglam", "vek", "thei", "ang", "a", "ti." ]
[ "B-PERSON", "I-PERSON", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
43
[ "Reiek", "khuaa", "lut", "leh", "chhuak", "turte", "chu", "Coronavirus", "chungchangah", "fimkhur", "turin", "an", "chah", "bawk." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "B-ORG", "O", "O", "O", "O", "O", "O" ]
44
[ "In", "a", "thlen", "veleh", "lo", "phone", "tur", "che", "in", "Dina", "ka", "hrilh", "ang." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-PERSON", "O", "O", "O" ]
45
[ "President", "Golob", "chuan", "Slovenia", "leh", "Palestine", "dinhmun", "tehkhinin,", "an", "ram", "pawh", "chu", "Yugoslavia", "aṭangin", "kum", "rei", "tak", "chhung", "zalenna", "neih", "tumin", "an", "bei." ]
[ "O", "B-PERSON", "O", "B-GPE", "O", "B-GPE", "O", "O", "O", "O", "O", "O", "B-GPE", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
46
[ "Video", "thenkhata", "Aerial", "filming", "zeh", "telte", "erawh", "Mazuala", "kutchhuak", "a", "ni", "thung." ]
[ "O", "O", "O", "O", "O", "O", "O", "B-ORG", "O", "O", "O", "O" ]
47
[ "Missionary", "day", "chungchangah", "ngaihdan", "leh", "pawmdan", "hrang", "deuh", "awm", "tawh", "mahse", "tihdanglam", "a", "ni", "lo." ]
[ "B-EVENT", "I-EVENT", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
48
[ "Hminga", "chu", "eng", "thilin", "nge", "a", "hlauthawng", "tih", "ka", "ngaihtuah." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
49
[ "Aizawl", "khawpuia", "block", "11", "aṭangin", "elected", "OB-te", "an", "tel." ]
[ "B-GPE", "O", "O", "O", "O", "B-ORG", "O", "O", "O" ]
50
[ "NU", "LEH", "PATE", "CHAWIMAWI", "Lalnunhlui", "Sacrament", "Department", "Fârkâwn", "Kohhran", "Khaw", "pakhatah", "hian", "hmeichhe", "naupang", "fel", "leh", "duhawm", "tak", "Siamtei", "hi", "a", "awm", "a." ]
[ "O", "O", "O", "O", "O", "B-ORG", "I-ORG", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-PERSON", "O", "O", "O", "O" ]
51
[ "Inkhel", "dangah", "seeded", "parukna", "Paolini", "chuan", "Diana", "Shnaider", "chu", "6-7,", "6-4,", "6-2", "in", "a", "hneh." ]
[ "O", "O", "O", "O", "B-ORG", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
52
[ "Dama-an", "khami", "hun", "lai", "khan", "Boston-ah", "a", "awm", "loh", "thu", "a", "sawi." ]
[ "B-PERSON", "O", "O", "O", "O", "B-GPE", "O", "O", "O", "O", "O", "O" ]
53
[ "Kawnpui", "leh", "Khamrang", "inkar", "chu", "remchang", "hmasa", "berah", "amah", "ngeiin", "tlawh", "a", "tum", "tih", "a", "sawi." ]
[ "B-PERSON", "O", "B-GPE", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
56
[ "Tin", "Labana", "chuan", "Kan", "ramah", "hian", "chutianga", "fa", "u", "hmaa", "a", "naupang", "zâwk", "kaltîr", "chu", "dân", "a", "ni", "lo", "asin." ]
[ "O", "B-ORG", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
57
[ "Hruaia", "chu", "ukil", "tha", "tak", "a", "ni." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O" ]
58
[ "Point", "70", "hmu", "tawhin", "pahnihna", "Monaco", "chuan", "point", "45", "an", "hmu", "mek", "thung." ]
[ "O", "O", "O", "O", "O", "B-GPE", "O", "O", "O", "O", "O", "O", "O" ]
59
[ "Muslim", "te", "lehkhabu", "thianghlim", "chu", "Qur'an", "a", "ni." ]
[ "O", "O", "O", "O", "O", "B-GPE", "O", "O" ]
60
[ "Japanese", "hi", "ka", "duh", "em", "em", "a." ]
[ "B-NORP", "O", "O", "O", "O", "O", "O" ]
61
[ "G20", "president", "dinhmun", "hi", "member", "ramten", "an", "inchelh", "chhawk", "thin." ]
[ "B-ORG", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
62
[ "Fela", "an", "that", "thei", "lo." ]
[ "B-PERSON", "O", "O", "O", "O" ]
63
[ "Dawhkan", "hnung", "ber", "ah", "Malsawma", "a", "thu." ]
[ "O", "O", "O", "O", "B-PERSON", "O", "O" ]
64
[ "Liani", "chuan", "nimin", "ah", "in", "ah", "ke", "in", "a", "haw", "tih", "a", "sawi." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
65
[ "Liana", "chuan", "Zomuani", "chungah", "hian", "fiamthu", "a", "khel", "lo." ]
[ "B-PERSON", "O", "B-PERSON", "O", "O", "O", "O", "O", "O" ]
66
[ "Hengte", "hi", "Aizawl", "hmasawnna", "tur", "liau", "liaua", "hmalakna", "ni", "sela", "chuan", "mipui", "phun", "pawh", "hi", "a", "zia", "ang", "mawle." ]
[ "O", "O", "B-GPE", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
67
[ "Chutah", "chuan", "kal", "turin", "Thanga", "ka", "hrilh." ]
[ "O", "O", "O", "O", "B-PERSON", "O", "O" ]
68
[ "Ruata", "leh", "a", "chhungte", "chu", "Mawii", "Island", "ah", "camping", "in", "an", "kal." ]
[ "O", "O", "O", "O", "O", "B-PERSON", "O", "O", "O", "O", "O", "O" ]
69
[ "Mizo", "naupang", "pali", "-", "Lalthla-muanpuia,", "Daniel", "Lal-humthanga,", "H.", "Vanlalfela", "leh", "Hmangaihzualite", "chu", "poomsae", "huangah", "koh", "an", "ni." ]
[ "B-PERSON", "O", "O", "O", "O", "B-PERSON", "I-PERSON", "B-PERSON", "I-PERSON", "O", "B-ORG", "O", "O", "O", "O", "O", "O" ]
70
[ "Fela", "chu", "naktuk", "zanah", "a", "buai", "hle", "dawn." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O" ]
71
[ "David-a'n", "TV", "show", "a", "en." ]
[ "B-PERSON", "O", "O", "O", "O" ]
72
[ "Napoli", "leh", "RB", "Leipzig", "te", "chuan", "Atletico", "Madrid", "forward", "Samu", "Omorodion", "lak", "tuma", "intlansiaknaah", "hma", "an", "hruai", "fal", "rih." ]
[ "B-ORG", "O", "B-ORG", "I-ORG", "O", "O", "B-PERSON", "I-PERSON", "O", "B-ORG", "I-ORG", "O", "O", "O", "O", "O", "O", "O", "O" ]
73
[ "John", "a", "phur", "hle", "dawn", "niin", "an", "ngai", "tih", "Dina", "leh", "Ziri", "te", "chuan", "min", "hrilh", "a." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O", "B-PERSON", "O", "B-PERSON", "O", "O", "O", "O", "O" ]
74
[ "Chhani", "chu", "naupan", "lai", "atangin", "hetah", "a", "awm", "tawh." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O" ]
75
[ "Gibraltar", "sawp", "nasa", "deuhin", "Euro", "2024", "khelh", "phak", "theihna", "kawng", "a", "hawng", "zau", "thei", "viau", "tura", "ngaih", "a", "ni." ]
[ "O", "O", "O", "O", "B-LAW", "I-LAW", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
76
[ "Anfield-ah", "Croatia", "an", "khel", "chhe", "hran", "bik", "lo." ]
[ "B-PERSON", "B-ORG", "O", "O", "O", "O", "O", "O" ]
78
[ "Chhani", "chuan", "a", "thîk", "tih", "a", "sawi." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O" ]
79
[ "Kapa-an", "chu", "chu", "a", "tih", "phal", "sak", "a", "ni", "maithei", "tih", "a", "hriat", "thu", "a", "sawi." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
80
[ "Hna", "a", "an", "thil", "tih", "an", "sawi", "ngai", "lo,", "Malsawma", "leh", "Ziri", "te", "chuan." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-PERSON", "O", "B-ORG", "O", "O" ]
81
[ "Sangi", "chuan", "a", "lehpekah", "chuan", "a", "fimkhur", "deuh", "a", "ngai", "tawh", "ang." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
83
[ "Hmalakna", "kal", "zelah", "Mizoram", "nen", "thawhdunna", "tha", "a", "awm", "theihnana", "lokal", "an", "ni", "tih", "a", "sawi." ]
[ "O", "O", "O", "B-GPE", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
85
[ "Tichuan,", "Bairabi", "pelh", "Assam", "ram", "chinah", "tuihmun", "thatna", "laiah", "tukthuan", "kan", "ei", "a." ]
[ "O", "B-GPE", "O", "B-LOC", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
87
[ "Lisa", "tan", "chuan", "hetiang", "thu", "chhiar", "hi", "a", "har", "thin." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
91
[ "Dar", "2:30", "hma", "chu", "haw", "a", "duh", "loh", "thu", "Malsawma-an", "a", "sawi." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-PERSON", "O", "O" ]
93
[ "Hminga", "chuan", "min", "duh", "ber." ]
[ "B-PERSON", "O", "O", "O", "O" ]
94
[ "Zama", "chuan", "Mawii", "chu", "piah", "lam", "atangin", "a", "bia." ]
[ "B-GPE", "O", "B-PERSON", "O", "O", "O", "O", "O", "O" ]
95
[ "Ruata", "kha", "Mawii", "call", "tir", "ka", "ni." ]
[ "B-PERSON", "O", "B-PERSON", "O", "O", "O", "O" ]
96
[ "Biaki", "chuan", "sum", "tam", "tak", "kan", "khawl", "khawm", "a." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O" ]
97
[ "Philae", "a", "tum", "a,", "darkar", "hnih", "chhung", "a", "per", "hnu", "ah", "a", "tum", "leh." ]
[ "B-ORG", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
98
[ "Sangi", "chuan", "i", "pek", "chuan", "a", "ti", "ang." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O" ]
99
[ "Khuma-an", "Rini", "hnenah", "John-a", "a", "thiam", "lo", "a", "tih", "loh", "thu", "a", "hrilh." ]
[ "O", "O", "O", "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
100
[ "John-an", "tih", "a", "hnial", "lo", "ang", "tih", "an", "beisei", "thu", "an", "sawi,", "Tluanga", "leh", "Puii", "te", "chuan." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-PERSON", "O", "O", "O", "O" ]
102
[ "Fadil", "an", "Jenifer", "car", "hnung", "atangin", "a", "hnuk", "chhuak." ]
[ "B-PERSON", "O", "B-PERSON", "O", "O", "O", "O", "O", "O" ]
104
[ "Thanga", "chuan", "amah", "chauh", "a", "awm", "niin", "a", "hria", "a." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
105
[ "ZPM", "sawrkarah", "hmasawnna", "nasa", "tak", "hmu", "turin", "an", "rilru", "an", "siamfel", "tawh", "tih", "a", "sawi." ]
[ "B-NORP", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
106
[ "Thil", "eng", "emaw", "dik", "lo", "awm", "in", "a", "hria", "tih", "Kima", "chuan", "a", "sawi." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-PERSON", "O", "O", "O" ]
107
[ "Hruaia", "chu", "harsatna", "chungchang", "hrilh", "a", "ngai." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O" ]
108
[ "Fela", "chu", "ka", "ngaisang." ]
[ "B-PERSON", "O", "O", "O" ]
109
[ "Tony", "hian", "kei", "aiin", "Sap", "ṭawng", "a", "thiam", "zawk." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O" ]
110
[ "Chutih", "lai", "chuan", "Marka", "chu", "a", "la", "naupang", "ang", "reng", "hle", "mai." ]
[ "O", "O", "O", "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O" ]
111
[ "Lali", "chuan", "vawiin", "ah", "tih", "duh", "a", "ngah", "hle." ]
[ "B-PERSON", "O", "O", "O", "O", "O", "O", "O", "O" ]
112
[ "Lunglei", "HPC", "vice", "chairman", "V", "Malsawmtluanga,", "MLA-in", "a", "hmanpui." ]
[ "O", "O", "O", "O", "B-PERSON", "I-PERSON", "B-PERSON", "O", "O" ]
113
[ "Mi", "538", "aṭangin", "MPSC", "chuan", "mi", "25", "a", "thlang", "chhuak." ]
[ "O", "O", "O", "B-ORG", "O", "O", "O", "O", "O", "O" ]
114
[ "Tarlan", "danin,", "Myanmar", "atanga", "sahimna", "zawnga", "Mizorama", "awm", "mekte", "mi", "27,751", "an", "awm", "a;" ]
[ "O", "O", "B-GPE", "O", "O", "O", "B-GPE", "O", "O", "O", "O", "O", "O", "O" ]
115
[ "Amah", "enkawl", "tawhtu", "Mourinho", "nen", "bawk", "an", "thawkdun." ]
[ "O", "O", "O", "B-ORG", "O", "O", "O", "O" ]
End of preview. Expand in Data Studio

Mizo Named Entity Recognition Corpus

441,178 Mizo sentences carrying 590,655 entity annotations across eleven types, built by projecting spaCy-detected English entities across a Mizo--English parallel corpus of 1,357,838 sentence pairs.

Includes a gold evaluation set of 300 sentences annotated independently by two Mizo speakers (Cohen's kappa 0.798) and adjudicated.

Read this first

Labels are silver-standard, produced automatically. Measured against the gold set the projection scores F1 0.6146. Evaluating a model on this corpus therefore overstates accuracy by roughly 0.26 F1 relative to human judgment.

The projection is a good entity detector and a poor entity classifier: it locates 88% of gold entities but assigns the wrong type to 31% of them. If you need spans more than labels, it is better than the aggregate suggests.

Files

File Contents
mizo_ner_corpus.jsonl the corpus; one sentence per line
mizo_ner_gold.json 300 human-annotated sentences, BIO tags
bio/ 80/10/10 split in BIO form, seed 42
mt/ parallel data for the translation experiment
{"text": "Kar thum chawlh Liana-an a la.",
 "entities": [[16, 21, "PERSON"]],
 "english_source": "Liana took three weeks off."}

Spans mark the stem, so Aizawlah is annotated at the offsets of Aizawl. The gold set instead tags whole inflected tokens, so compare the two by overlap.

Entity types

PERSON GPE ORG NORP LOC LANGUAGE WORK_OF_ART FAC PRODUCT EVENT LAW — OntoNotes 5 minus numeric and temporal categories.

Heavily skewed: PERSON, GPE and ORG are 92.8% of annotations; EVENT and LAW together under 0.25%.

Loading

import json
rows = [json.loads(l) for l in open("mizo_ner_corpus.jsonl", encoding="utf-8")]
print(len(rows), "sentences")

Limitations

  • Only entity-bearing sentences are retained.
  • Projection recovers 66.7% of English entities; the rest are missed systematically, not at random.
  • 318 sentences (0.07%) contain mis-encoded characters inherited from the source corpus.
  • LOC is unreliable; spaCy over-assigns GPE on the English side.

Citation

See the code repository.

Contact

Thangkhanhau Haulai — tka@gsc.edu.in

Downloads last month
17