idx
int32
0
4.82k
words
sequence
lid
sequence
0
[ "Good", "vibe", "tribe", "." ]
[ "lang1", "lang1", "lang1", "other" ]
1
[ "beware", "#pmjohnkey", "..", ".", "maintain", "distance", "from", "#Modi", "..", ".", "modi", "is", "a", "natural", "deception", "master", "an", "a", "thug", "..", ".", "he", "will", "loot", "#NewZealand" ]
[ "lang1", "ne", "other", "other", "lang1", "lang1", "lang1", "ne", "other", "other", "ne", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "other", "lang1", "lang1", "lang1", "ne" ]
2
[ "Angry", "young", "men", "sir", "ji" ]
[ "lang1", "lang1", "lang1", "lang1", "lang2" ]
3
[ "Girlfriend", "'s", "Guide", "To", "Divorce", "is", "the", "best", "replacement", "for", "SATCH", "binge", "watching", "." ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
4
[ "Ajay", "thakur", ",", "woww", "this", "is", "why", "kabaddi", "is", "gaining", "more", "popularity", "than", "cricket", "these", "days", ".", "40", "minutes", "of", "thrilling", "sensation", "&", "India", "are", "world", "champions", "." ]
[ "ne", "ne", "other", "lang1", "lang1", "lang1", "lang1", "lang2", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "lang1", "lang1", "lang1", "other" ]
5
[ "Virat", "so", "nice", "player", "yar", "what", "fielding", "nd", "batting", "also", "keep", "up", "virat" ]
[ "ne", "lang1", "lang1", "lang1", "lang2", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "ne" ]
6
[ "va", "stept", "cu", "drag" ]
[ "lang2", "lang1", "lang1", "lang1" ]
7
[ "U", "shud", "feel", "lucky", ".", "If", "I", "was", "ur", "friend", "...", "id", "have", "snatched", "the", "bedsheet", "and", "rode", "away", "." ]
[ "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
8
[ "India", "had", "really", "emerged", "as", "a", "leading", "nation", "under", "the", "Dynamic", "leadership", "of", "Mr.", "Modi", ".", "We", "have", "to", "rule", "the", "world", "in", "the", "21st", "Century", "." ]
[ "ne", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "other" ]
9
[ "Vryyyyy", "happy", "bday", "sir", "may", "sai", "Saba", "always", "protect", "u", "." ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "ne", "lang1", "lang1", "lang1", "other" ]
10
[ "Vi", "Kal", "29", "Tarik", "100" ]
[ "ne", "lang2", "other", "lang2", "other" ]
11
[ "Bhaijaan", "plz", "1", "reply" ]
[ "lang2", "lang1", "other", "lang1" ]
12
[ "Aamir", "bhai", "suspense", "behind", "ur", "movie", "..", "we", "are", "waiting", ",", "salman", "or", "shahrukh", "ko", "phir", "se", "maza", "chakha", "den" ]
[ "ne", "lang2", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "other", "ne", "lang2", "ne", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2" ]
13
[ "@hinduwarrior15", "If", "only", "you", "are", "register", "to", "it", ".", "But", "its", "terrible", "live", "stream", "there", "coz", "they", "show", "5", "or", "10", "mins", "late" ]
[ "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "other", "lang1", "lang1" ]
14
[ "virat", "is", "the", "best", "parson", "as", "well", "as", "cricketer", "in", "the", "world", "..", ".", "and", "no", "one", "can", "be", "like", "virat", "kohli", "in", "the", "present", "era", "..", "..", "because", "he", "knows", "very", "well", "that", "how", "should", "handle", "a", "critical", "problem", "in", "the", "pressure", "situation", "..", "..", "and", "finally", "i", "wanna", "say", "that", "kohli", "is", "best", "..", "..", "..", "Er", "Mohd", "Nadeem", "..", "..", "." ]
[ "ne", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "ne", "lang1", "lang1", "lang1", "lang1", "other", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "lang1", "lang1", "other", "other", "other", "ne", "ne", "ne", "other", "other", "other" ]
15
[ "More", "power", "to", "you", "@Shubhrastha", "Bash", "these", "pseudo", "seculars", "and", "commies", "even", "harder", ".", "They", "deserve", "no", "mercy", ".", "They", "are", "sick", "from", "the", "core", "." ]
[ "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
16
[ "Jag", "ghumaya", "thare", "jaisa", "naa", "koi", "..", ".", "u", "r", "the", "best", "Virat", "luv", "u", "so", "much", "SULTAN", "of", "cricket", "..", "..", "always", "make", "us", "proud", "..", "soon", "meet", "u", "cheeku", "in", "ranchi", "..", "..", ".", ":", "*", ":", "*", ":", "*", ":", "*", ":", "*", "luv", "uh" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other", "other", "lang1", "lang1", "lang1", "lang1", "ne", "lang1", "lang1", "lang1", "lang1", "lang2", "lang1", "lang1", "other", "other", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "ne", "lang1", "ne", "other", "other", "other", "other", "other", "other", "other", "other", "other", "other", "other", "other", "other", "lang1", "lang1" ]
17
[ "Dhoni", "will", "play", "back", "2019", "to", "bring", "world", "cup", "our", "country" ]
[ "ne", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
18
[ "Yr", "life", "is", "amazingallthough", ".", "Admit", "u", "have", "towork", "v", "hard", "spend", "hours" ]
[ "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
19
[ "@myogiadityanath", "@Manekagandhibjp", "@noida_authority", "please", "release", "their", "funds", "so", "these", "animals", "can", "get", "the", "food", "and", "medical", "care", "due", "to", "them" ]
[ "other", "other", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
20
[ "Love", "you", "Bhaijan", "I", "'m", "super", "jabar", "biggest", "fan", "love", "You" ]
[ "lang1", "lang1", "ne", "lang1", "lang1", "lang1", "lang2", "lang1", "lang1", "lang1", "lang1" ]
21
[ "@amitomsharma", "@meerasanyal", "No", "worries", ".", "I", "understand", ":)" ]
[ "other", "other", "lang1", "lang1", "other", "lang1", "lang1", "other" ]
22
[ "Yeah", "@diljitdosanjh", "is", "big", "fan", "of", "yours", "@KylieJenner", "and", "i", "am", "fan", "of", "him", ".", "Do", "you", "know", "he", "is", "rockstar", ".", "I", "guess", "you", "have", "not", "noticed", "him", ".." ]
[ "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
23
[ "Yes", "!", "we", "are", "waiting", "to", "see", "you", "on", "Ellen", "!" ]
[ "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "other" ]
24
[ "Hahaha", ".", "Good", "reply" ]
[ "other", "other", "lang1", "lang1" ]
25
[ "@discreteindian", "Short", "pants", "mindset", ".", "Long", "on", "vitriol", "and", "short", "on", "grey", "matter" ]
[ "other", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
26
[ "admin", "ab", "is", "pg", "pe", "post", "krne", "k", "lia", "kch", "aur", "nai", "bacha", "kya" ]
[ "lang1", "lang2", "lang2", "lang1", "lang2", "lang1", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2" ]
27
[ "@NavinGPradhan1", "@malviyamit", "It", "'s", "still", "a", "very", "small", "gathering", "..", ".", "but", "it", "'s", "ok", "hope", "there", "is", "a", "good", "fight", "from", "the", "opposition" ]
[ "other", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
28
[ "Machis", "to", "joothe", "badnaam", "hai", "aag", "to", "Kohli", "ne", "laga", "rakhi", "hai", "very", "very", "congratulations", "virat" ]
[ "lang2", "lang1", "lang2", "lang2", "lang2", "lang2", "lang2", "ne", "lang2", "lang2", "lang2", "lang2", "lang1", "lang1", "lang1", "ne" ]
29
[ "You", "have", "done", "wonders", "for", "India", "and", "for", "the", "moral", "boost", "of", "the", "Indians", "!", "You", "are", "so", "GREAT", ",", "Modiji", "!!" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "other", "lang1", "lang1", "lang1", "lang1", "other", "ne", "other" ]
30
[ "There", "is", "kohli", "show", "in", "mohali", "ground", "the", "run", "machine", "150*kya", "kholi", "sir", "bnna", "pata", "ha" ]
[ "lang1", "lang1", "ne", "ne", "lang1", "ne", "lang1", "lang1", "lang1", "lang1", "other", "ne", "lang1", "lang2", "lang2", "lang2" ]
31
[ "Salman", "Ji", "You", "are", "My", "favorite", "Hero", "forever" ]
[ "ne", "lang2", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
32
[ "Para", "emprestar", "de", "cricket", "defensivo", "jogar", "deu", "a", "agressivo", "rebatendo", "&", "isso", "ajudar", "tanto", "india" ]
[ "fw", "fw", "fw", "lang1", "fw", "fw", "fw", "fw", "fw", "fw", "lang1", "fw", "fw", "fw", "ne" ]
33
[ "Priya", "gi", "sorry", "in", "the", "no", "play", "option", "happy", "good", "night" ]
[ "ne", "lang2", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
34
[ "Am", "I", "looking", "at", "a", "politician", "here", "??", "Nope", "..", "I", "am", "looking", "at", "a", "leader", "of", "a", "country", "who", "is", "making", "it", "easier", "for", "the", "people", "to", "know", "the", "difference", "between", "politician", "and", "leader", "..", "A", "leader", ",", "the", "people", "'s", "choice", ".." ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "other" ]
35
[ "test", "should", "be", "who", "sets", "the", "class", "on", "fire", "the", "fastest" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
36
[ "Who", "says", "ab", "devillers", "better", "..", ".", "I", "think", "virat", "kohli", "is", "the", "best", "batsman", "in", "any", "formats", "in", "the", "world", "..", ".", "..", "Raise", "your", "hands", "if", "you", "think", "virat", "is", "the", "best", "..", "." ]
[ "lang1", "lang1", "ne", "ne", "lang1", "other", "other", "lang1", "lang1", "ne", "ne", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "other", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "lang1", "lang1", "lang1", "other", "other" ]
37
[ "wao", "kohli", "and", "dhoni" ]
[ "lang1", "ne", "lang1", "ne" ]
38
[ "Our", "goodness", "Russia", "with", "stand", "of", "india", "we", "have", "to", "need", "Russia", "alyays", "escape", "us", "..", "..", "we", "need", "not", "dare", "to", "any", "country", "itihaas", "gvaa", "hai" ]
[ "lang1", "lang1", "ne", "lang1", "lang1", "lang1", "ne", "lang1", "lang1", "lang1", "lang1", "ne", "lang1", "lang1", "lang1", "other", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang2", "lang2", "lang2" ]
39
[ "kyaa", "comment", "karen", "big", "bee", "ke", "liye", "mein", "unke", "samaksh", "baunaa", "mahsoos", "kartaa", "hoon" ]
[ "lang2", "lang1", "lang2", "ne", "ne", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2" ]
40
[ "Love", "to", "salman", "bhaijan" ]
[ "lang1", "lang1", "ne", "lang2" ]
41
[ "Bhai", "aapne", "kah", "diya", "bas", "ab", "to", "ye", "movie", "bhi", "dekhna", "he" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang1", "lang2", "lang2", "lang2" ]
42
[ "@LloyddDsouza", "Hi", ",", "we", "have", "made", "a", "note", "of", "it", ".", "We", "will", "get", "back", "to", "you", "." ]
[ "other", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
43
[ "@phantasmagothic", "I", "am", "sorry", "this", "happened", "to", "you", ".", "My", "friend", "faced", "the", "same", "in", "front", "of", "our", "college", ".", "Other", "friend", "faced", "it", "at", "marine", "drives", "." ]
[ "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "ne", "other" ]
44
[ "@roxannebamboat", "Can", "share", "many", "recipes", ".", "Going", "the", "keto", "way", "?" ]
[ "other", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "other" ]
45
[ "namo", "ke", "bhasan", "se", "to", "esa", "lagta", "hai" ]
[ "ne", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2" ]
46
[ "Best", "Possible", "remedy", "to", "resolve", "unmetered", "Power", "Supply", "#Saubhagya", "#Gujjubhaikadimaag" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang2", "lang2" ]
47
[ "Sirji", "i", "have", "watched", "the", "trailer", "of", "MS", "DHONI", ":", "the", "untold", "story", "more", "than", "30", "times", "and", "i", "am", "still", "watching", "it", ".", "You", "are", "the", "best", "." ]
[ "mixed", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "ne", "ne", "ne", "ne", "ne", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "other" ]
48
[ "Modi", "ji", "sir", "aap", "ka", "jawab", "nahin", "par", "putin", "sir", "bhi", "lajawab", "hai", ".", "waqt", "aane", "par", "America", "line", "badal", "sakta", "hai", "par", "russia", "nahin", ".", "kabhi", "bhi", "nahin", ".", "Russian", "pak", "ke", "pass", "ja", "ke", "hame", "ehsaas", "karva", "reha", "hai", "ke", "hame", "bhoolo", "mat", "aur", "hame", "bhoolna", "bhi", "nahin", "chahia", "." ]
[ "ne", "lang2", "lang1", "lang2", "lang2", "lang2", "lang2", "lang2", "ne", "lang1", "lang2", "lang2", "lang2", "other", "lang2", "lang2", "lang2", "ne", "lang1", "lang2", "lang2", "lang2", "lang2", "ne", "lang2", "other", "lang2", "lang2", "lang2", "other", "lang1", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other" ]
49
[ "why", "dont", "people", "understand", "the", "difference", "betwen", "a", "confession", "nd", "a", "question", "?", "anyway", "to", "answer", "ur", "question", "..", "because", "we", "dont", "need", "to", "impress", "anyone", "-_-" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
50
[ "Our", "PM", "is", "Lion", ",", "we", "are", "proud", "we", "are", "Indian", "my", "PM", "Modi", "jee", "is", "one", "of", "the", "king", "maker", ",", "(", "JAI", "Hind", "bharath", "maatha", "kee", "jai", "jai", "Hind", "jai", "ho", "Modi", "jee", "jai", "Hind", "bharath", "maatha", "kee", "jai", "jai", "Hind", "vande", "maathram", "JAI", "HIND" ]
[ "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "lang1", "lang1", "ne", "lang2", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "other", "lang2", "lang2", "ne", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "ne", "lang2", "lang2", "lang2", "ne", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2" ]
51
[ "Salute", "sir", ".", "Jai", "hind", "." ]
[ "lang1", "lang1", "other", "lang2", "lang2", "other" ]
52
[ "#assalamualykum", "#salmansir", "mai", "aap", "ka", "bahut", "bada", "fan", "hu", "..", "mujhe", "aapki", "har", "movie", "bahut", "pasand", "hai", "..", ".", "#iloveuhh" ]
[ "lang2", "ne", "lang2", "lang2", "lang2", "lang2", "lang2", "lang1", "lang2", "other", "lang2", "lang2", "lang2", "lang1", "lang2", "lang2", "lang2", "other", "other", "lang1" ]
53
[ "V", "really", "proud", "of", "India", "rashia", "friendship" ]
[ "lang1", "lang1", "lang1", "lang1", "ne", "ne", "lang1" ]
54
[ "Hiiiii", "sir", "love", "you", "..", "..", "..", "..", "please", "koi", "acha", "movie", "leke", "aiyye", "..", "..", ".", "we", "r", "waiting", "!!", "!!" ]
[ "lang1", "lang1", "lang1", "lang1", "other", "other", "other", "other", "lang1", "lang2", "lang2", "lang1", "lang2", "lang2", "other", "other", "other", "lang1", "lang1", "lang1", "other", "other" ]
55
[ "@scratchysingh", "It's", "like", "pados", "ka", "launda", "agar", "aap", "ko", "thoktaa", "hain", "aur", "aap", "ke", "papa", "taali", "bajaatey", "sabhaash", "beta", "bahut", "badiya", "!", "Doh", "aur", "maar", "." ]
[ "other", "lang1", "lang1", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other", "lang2", "lang2", "lang2", "other" ]
56
[ "#DTD100Million", "stream", "itt", "now" ]
[ "lang1", "lang1", "lang1", "lang1" ]
57
[ "Didi", "(", "PC", ")", "Do", "n't", "forget", "Bollywood", ",", "I", "am", "big", "fan", "Yash", ",", "you", "are", "best", "&", "best", "&", "best", "." ]
[ "lang2", "other", "ne", "other", "lang1", "lang1", "lang1", "ne", "other", "lang1", "lang1", "lang1", "lang1", "ne", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
58
[ "Modiji", "age", "bariea", "puradesh", "apka", "sath", "hai" ]
[ "ne", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2" ]
59
[ "Sacche", "hindu", "..", ".", "Ye", "film", "flop", "kara", "ke", "rahenge", "..", "." ]
[ "lang2", "lang2", "other", "other", "lang2", "lang1", "lang1", "lang2", "lang2", "lang2", "other", "other" ]
60
[ "Ederson", "is", "so", "impressive", "👌" ]
[ "ne", "lang1", "lang1", "lang1", "other" ]
61
[ "The", "visiting", "dignitary", "clearly", "irritated", "by", "Modi", "already", ".", "india", "can", "expect", "something", "negative", "from", "New", "Zealand", "as", "well", "." ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "lang1", "other", "ne", "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "ne", "lang1", "lang1", "other" ]
62
[ "end", "of", "an", "era", "but", "his", "voice", "will", "be", "echoing", "rip" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
63
[ "Aamir", "khan", "ji", "aap", "meray", "favoroute", "actor", "ho", "mai", "bus", "ek", "baar", "apkay", "pairo", "ko", "Chuna", "chahta", "hu", "or", "apko", "gale", "lagana", "chahta", "hu", "yeh", "mera", "dream", "hai", "kyuki", "aap", "jaisa", "talented", "actor", "or", "aap", "jaisa", "acha", "insaan", "puri", "duniya", "mai", "say", "dhoodhnay", "say", "bhi", "nahi", "milega", "plz", "mujhay", "ek", "moka", "dijiye", "ki", "mai", "apna", "dream", "pura", "kar", "saku" ]
[ "ne", "ne", "lang2", "lang2", "lang2", "lang1", "lang1", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang1", "lang2", "lang2", "lang2", "lang2", "lang1", "lang1", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang1", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang1", "lang2", "lang2", "lang2" ]
64
[ "The", "message", "would", "be", "farther", "reaching", "if", "made", "into", "movie", "(", "not", "documentary", ")", "&", "done", "all", "by", "women", "..", ".", "written", ",", "directed", ",", "produced", ",", "music", "&", "whatever", "else", "goes", "into", "getting", "movie", "done", "&", "distributed", ".", "U", "have", "the", "talent", "&", "connections", "to", "do", "this", ".", "People", "love", "to", "emulate", "their", "favorite", "movie/stars", ".", "Girl", "'s", "education", "reality", "could", "be", "changed", "in", "just", "1", "generation", "." ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "other", "lang1", "other", "lang1", "other", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "other" ]
65
[ "A", "modern", "woman", "always", "is", "n’t", "one", "fighting", "for", "her", "rights", ".", "Truly", "modern", "is", "one", "who", "keeps", "family", "above", "herself", ".", "For", "me", "Mrs", "Modi", "most", "modern" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "ne", "lang1", "lang1" ]
66
[ "@GuptRogue", "@roxannebamboat", "Done", "!" ]
[ "other", "other", "lang1", "other" ]
67
[ "Hi", "I", "am", "emraan", "tum", "friend", "ban", "jao", "mere" ]
[ "lang1", "lang1", "lang1", "ne", "lang2", "lang1", "lang2", "lang2", "lang2" ]
68
[ "Yoy", "take", "any", "decisions", "we", "support", "you", "sir", "and", "we", "proud", "and", "respect", "you" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
69
[ "Always", "cute", "and", "lucky", ".", "and", "Always", "forward", "from", "other", "people", "." ]
[ "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
70
[ "#314", ":", "Life", "sucks", ",", "and", "then", "you", "hook", "up", "with", "someone", "who", "doesn't", "..." ]
[ "other", "other", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
71
[ "I", "fully", "support", "Swachh", "Bharat", "Abhiyan", "." ]
[ "lang1", "lang1", "lang1", "lang2", "lang2", "lang2", "other" ]
72
[ "They", "say", "whre", "there", "'s", "a", "will", ",", "there", "'s", "a", "way", "but", "I", "dont", "see", "myslf", "a", "Twitter", "celeb", "cos", "noone", "RT", "my", "tweets", "-Aisa", "underrated", "tweeps", "ko", "lagta", "hga" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang2", "lang1", "lang1", "lang2", "lang2", "lang2" ]
73
[ "U", "r", "tite", "priyanka" ]
[ "lang1", "lang1", "lang1", "ne" ]
74
[ "Im", "daughter", "of", "himalayas", "you", "are", "son", "of", "mugal", "badshaha", "but", "met", "in", "comment" ]
[ "lang1", "lang1", "lang1", "ne", "lang1", "lang1", "lang1", "lang1", "lang2", "lang2", "lang1", "lang1", "lang1", "lang1" ]
75
[ "mutual", "masterbation", "for", "win", ".." ]
[ "lang1", "lang1", "lang1", "lang1", "other" ]
76
[ "Hi", "salman", "u", "never", "work", "with", "depika", "padu", "because", "she", "is", "egoistic", "person", "and", "your", "fans", "do", "n't", "like", "her", "u", "work", "wit", "Chinese", "actress", "in", "tubelight", "we", "like", "it", "and", "love" ]
[ "lang2", "ne", "lang1", "lang1", "lang1", "lang1", "ne", "ne", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "lang1", "lang1", "ne", "lang1", "lang1", "lang1", "lang1", "lang1" ]
77
[ "Rooftops", ",", "moonlight", "and", "music" ]
[ "lang1", "other", "lang1", "lang1", "lang1" ]
78
[ "Arun", "Lal-", "ye", "dekhiye", "Mohit", "Sharma", "ko", ";", "kis", "tarah", "chhalange", "mar", "ke", "gendbazi", "ki", "shuruvat", "karte", "h", ".", "Maza", "aa", "raha", "h", "unki", "balls", "dekh", "kar", "#IndvsSA" ]
[ "ne", "ne", "lang2", "lang2", "ne", "ne", "lang2", "other", "lang2", "lang2", "lang1", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other", "lang2", "lang2", "lang2", "lang2", "lang2", "lang1", "lang2", "lang2", "lang1" ]
79
[ "Hello", "bhai", "kese", "ho" ]
[ "lang1", "lang2", "lang2", "lang2" ]
80
[ "Jai", "how", "indo", "Russian", "relationship", "modi", "sir", "." ]
[ "lang2", "lang1", "ne", "ne", "lang1", "ne", "lang1", "other" ]
81
[ "You", "are", "the", "hero", "of", "our", "nation", "..", "..", "we", "are", "proud", "of", "you", "..", "..", "always", "try", "to", "continou", "it" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "other", "lang1", "lang1", "lang1", "lang1", "lang1" ]
82
[ "Ka", "ho", "bachhan", "ji", "ab", "dusro", "ko", "bhi", "kamane", "ka", "moka", "de", "do", "bhai", ".", "Age", "dekhiye", "apni", "." ]
[ "lang2", "lang2", "ne", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other", "lang1", "lang2", "lang2", "other" ]
83
[ "Dhoni", "superstar", "cool", "aur", "world", "ka", "best", "captain" ]
[ "ne", "lang1", "lang1", "lang2", "lang1", "lang2", "lang1", "lang1" ]
84
[ "Looks", "awesome", "in", "this", "video", "!!", "!!", "Super", "lady", "!!", "!", "(", "BTW", "change", "your", "profile", "picture", ",", "looks", "awkward", "with", "smile", "and", "dress", ",", "not", "good", "!!", ")" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "other", "other", "lang1", "lang1", "other", "other", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "other", "other" ]
85
[ "@RailMinIndia", "there", "is", "no", "update", "for", "12430", "at", "NDLS", ".", "Departure", "time", "was", "11:25", "PM", "from", "starting", "point", "NDLS", "." ]
[ "other", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "ne", "other", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "ne", "other" ]
86
[ "Awsm", "click", "Atul", "Yadav" ]
[ "lang1", "lang1", "ne", "ne" ]
87
[ "maine", "to", "subha", "hi", "bola", "tha", "☺", "..", "aaj", "100", "lgega", "..", ".", "aur", "dekho", "result", "apke", "samne", "hai" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other", "other", "lang2", "other", "lang2", "other", "other", "lang2", "lang2", "lang1", "lang2", "lang2", "lang2" ]
88
[ "Guod", "boy", "enn", "guod", "lied" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1" ]
89
[ "abe", "ja", "pehle", "sorry", "bol", "k", "aa" ]
[ "lang2", "lang2", "lang2", "lang1", "lang2", "lang2", "lang2" ]
90
[ "Yes", "DHoNI", "is", "BesT", "PlayeR", "in", "ThE", "WorlD", "Bcs", "He", "'s", "a", "CooL", "MaN", "." ]
[ "lang1", "ne", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
91
[ "hathi", "chale", "bich", "bajar", "kutthe", "voke", "hazar" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2" ]
92
[ "Seculars", "think", "India", "is", "dumping", "ground", "for", "all", "world", "`", "s", "dejected", "people", "#RohingyaHafizLink" ]
[ "lang1", "lang1", "ne", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1" ]
93
[ "good", "job", "for", "this", "person" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1" ]
94
[ "@vandana_7", "@PMOIndia", "@narendramodi", "And", "wat", "about", "rape" ]
[ "other", "other", "other", "lang1", "lang1", "lang1", "lang1" ]
95
[ "India", "ne", "toss", "jita", "matlab", "50%macth", "jitt", "Best", "of", "luck", "team", "india" ]
[ "ne", "lang2", "lang1", "lang2", "lang2", "other", "lang2", "lang1", "lang1", "lang1", "lang1", "ne" ]
96
[ "bevkoof", "ladke", "ye", "confession", "page", "h", ".....", "autobiography", "nhi", "likhni", "h", "yha", "..." ]
[ "lang2", "lang2", "lang2", "lang1", "lang1", "lang2", "other", "lang1", "lang2", "lang2", "lang2", "lang2", "other" ]
97
[ "Smart", "boy", ".", "In", "my", "eyes", "you", "are", "the", "best", "player", "in", "the", "world", ".", "you", "was", ",", "you", "are", "and", "you", "will", "a", "best", "player" ]
[ "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
98
[ "Jay", "hind", "jay", "bharat", "jay", "kabaddi" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2" ]
99
[ "Wow", "virrrraaaaat", "wow", "..", ".!", "!!", "thanks", "alot", "fr", "being", "such", "an", "inspiration", "!!" ]
[ "lang1", "ne", "lang1", "other", "other", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]

Dataset Card for "lince"

Dataset Summary

LinCE is a centralized Linguistic Code-switching Evaluation benchmark (https://ritual.uh.edu/lince/) that contains data for training and evaluating NLP systems on code-switching tasks.

Supported Tasks and Leaderboards

More Information Needed

Languages

More Information Needed

Dataset Structure

Data Instances

lid_hineng

  • Size of downloaded dataset files: 0.43 MB
  • Size of the generated dataset: 2.39 MB
  • Total amount of disk used: 2.82 MB

An example of 'validation' looks as follows.

{
    "idx": 0,
    "lid": ["other", "other", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "mixed", "lang1", "lang1", "other"],
    "words": ["@ZahirJ", "@BinyavangaW", "Loved", "the", "ending", "!", "I", "could", "have", "offered", "you", "some", "ironic", "chai-tea", "for", "it", ";)"]
}

lid_msaea

  • Size of downloaded dataset files: 0.81 MB
  • Size of the generated dataset: 4.89 MB
  • Total amount of disk used: 5.69 MB

An example of 'train' looks as follows.

This example was too long and was cropped:

{
    "idx": 0,
    "lid": ["ne", "lang2", "other", "lang2", "lang2", "other", "other", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other", "lang2", "lang2", "lang2", "ne", "lang2", "lang2"],
    "words": "[\"علاء\", \"بخير\", \"،\", \"معنوياته\", \"كويسة\", \".\", \"..\", \"اسخف\", \"حاجة\", \"بس\", \"ان\", \"كل\", \"واحد\", \"منهم\", \"بييقى\", \"مقفول\", \"عليه\"..."
}

lid_nepeng

  • Size of downloaded dataset files: 0.55 MB
  • Size of the generated dataset: 3.21 MB
  • Total amount of disk used: 3.75 MB

An example of 'validation' looks as follows.

{
    "idx": 1,
    "lid": ["other", "lang2", "lang2", "lang2", "lang2", "lang1", "lang1", "lang1", "lang1", "lang1", "lang2", "lang2", "other", "mixed", "lang2", "lang2", "other", "other", "other", "other"],
    "words": ["@nirvikdada", "la", "hamlai", "bhetna", "paayeko", "will", "be", "your", "greatest", "gift", "ni", "dada", ";P", "#TreatChaiyo", "j", "hos", ";)", "@zappylily", "@AsthaGhm", "@ayacs_asis"]
}

lid_spaeng

  • Size of downloaded dataset files: 1.18 MB
  • Size of the generated dataset: 6.83 MB
  • Total amount of disk used: 8.01 MB

An example of 'train' looks as follows.

{
    "idx": 0,
    "lid": ["other", "other", "lang1", "lang1", "lang1", "other", "lang1", "lang1"],
    "words": ["11:11", ".....", "make", "a", "wish", ".......", "night", "night"]
}

ner_hineng

  • Size of downloaded dataset files: 0.14 MB
  • Size of the generated dataset: 0.79 MB
  • Total amount of disk used: 0.92 MB

An example of 'train' looks as follows.

{
    "idx": 1,
    "lid": ["en", "en", "en", "en", "en", "en", "hi", "hi", "hi", "hi", "hi", "hi", "hi", "en", "en", "en", "en", "rest"],
    "ner": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-PERSON", "I-PERSON", "O", "O", "O", "B-PERSON", "I-PERSON"],
    "words": ["I", "liked", "a", "@YouTube", "video", "https://t.co/DmVqhZbdaI", "Kabhi", "Palkon", "Pe", "Aasoon", "Hai-", "Kishore", "Kumar", "-Vocal", "Cover", "By", "Stephen", "Qadir"]
}

Data Fields

The data fields are the same among all splits.

lid_hineng

  • idx: a int32 feature.
  • words: a list of string features.
  • lid: a list of string features.

lid_msaea

  • idx: a int32 feature.
  • words: a list of string features.
  • lid: a list of string features.

lid_nepeng

  • idx: a int32 feature.
  • words: a list of string features.
  • lid: a list of string features.

lid_spaeng

  • idx: a int32 feature.
  • words: a list of string features.
  • lid: a list of string features.

ner_hineng

  • idx: a int32 feature.
  • words: a list of string features.
  • lid: a list of string features.
  • ner: a list of string features.

Data Splits

name train validation test
lid_hineng 4823 744 1854
lid_msaea 8464 1116 1663
lid_nepeng 8451 1332 3228
lid_spaeng 21030 3332 8289
ner_hineng 1243 314 522

Dataset Creation

Curation Rationale

More Information Needed

Source Data

Initial Data Collection and Normalization

More Information Needed

Who are the source language producers?

More Information Needed

Annotations

Annotation process

More Information Needed

Who are the annotators?

More Information Needed

Personal and Sensitive Information

More Information Needed

Considerations for Using the Data

Social Impact of Dataset

More Information Needed

Discussion of Biases

More Information Needed

Other Known Limitations

More Information Needed

Additional Information

Dataset Curators

More Information Needed

Licensing Information

More Information Needed

Citation Information

@inproceedings{aguilar-etal-2020-lince,
    title = "{L}in{CE}: A Centralized Benchmark for Linguistic Code-switching Evaluation",
    author = "Aguilar, Gustavo  and
      Kar, Sudipta  and
      Solorio, Thamar",
    booktitle = "Proceedings of The 12th Language Resources and Evaluation Conference",
    month = may,
    year = "2020",
    address = "Marseille, France",
    publisher = "European Language Resources Association",
    url = "https://www.aclweb.org/anthology/2020.lrec-1.223",
    pages = "1803--1813",
    language = "English",
    ISBN = "979-10-95546-34-4",
}

Note that each LinCE dataset has its own citation too. Please see here for the correct citation on each dataset.

Contributions

Thanks to @lhoestq, @thomwolf, @gaguilar for adding this dataset.

Downloads last month
893

Models trained or fine-tuned on lince