Dataset Preview
Go to dataset viewer
idx (int32)words (sequence)lid (sequence)
0
[ "11:11", ".....", "make", "a", "wish", ".......", "night", "night" ]
[ "other", "other", "lang1", "lang1", "lang1", "other", "lang1", "lang1" ]
1
[ "@YiseBabee", "i", "wish", "i", "could", "be", "ignorant" ]
[ "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
2
[ "Bout", "to", "get", "my", "Fat", "ON" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
3
[ "Me", "encantaria", "que", "me", "vieras", ",", "de", "la", "manera", "que", "yo", "te", "veo", "#OneDay" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "other", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang1" ]
4
[ "@CalvaryArlCC", "Do", "you", "guys", "have", "a", "spanish", "department", "or", "services", "???" ]
[ "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
5
[ "Going", "asleep", "with", "papi", "'s", "music", "on", "skype", ",", "even", "thoe", "our", "call", "hang", "up", "#Priceless", "#DistanceDontMatter" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
6
[ "Lets", "have", "a", "date", "me", "and", "you", "for", "ever", "and", "ever", "😍😘", "#NeverAlone" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1" ]
7
[ "Good", "Night", "World", "y", "'all", "be", "blessed" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
8
[ "Good", "Afternoon", "World" ]
[ "lang1", "lang1", "lang1" ]
9
[ "@Liberty316", "Ur", "B-Day", "was", "yesterday", "too", "fam", "!?" ]
[ "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
10
[ "Good", "Morning", "World", "y", "'all", "be", "blessed" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
11
[ "same", "🙍", "“", "@larki__", ":", "All", "my", "friends", "are", "with", "their", "boos", "so", "I", "have", "no", "one", "to", "talk", "to", "#5everalone", "🙍", "”" ]
[ "lang1", "other", "other", "other", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "other" ]
12
[ "👀👀", "“", "@manito_jesse", ":", "@larki__", "@kiragarciaa", "Kira", "never", "says", "that", "😏", "”" ]
[ "other", "other", "other", "other", "other", "other", "ne", "lang1", "lang1", "lang1", "other", "other" ]
13
[ "Oh", "😯😐", "“", "@larki__", ":", "😴😴😴", "RT", "@manito_jesse", ":", "larki__", "@kiragarciaa", "randy", "can", "make", "yours", "😭😭", "”" ]
[ "lang1", "other", "other", "other", "other", "other", "lang1", "other", "other", "lang1", "other", "ne", "lang1", "lang1", "lang1", "other", "other" ]
14
[ "@larki__", "@manito_jesse", "😭😭😭", "sorry", "boo" ]
[ "other", "other", "other", "lang1", "unk" ]
15
[ "😂😂", "“", "@manito_jesse", ":", "“", "@kiragarciaa", ":", "Por", "favor", "baby", "rip", "me", "right", "out", "of", "my", "dolce", "😏🎧", "”", "tato", "😎😏", "”" ]
[ "other", "other", "other", "other", "other", "other", "other", "lang2", "lang2", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "other", "lang1", "other", "other" ]
16
[ "Bubble", "gum", "and", "heat", "wave", "😭😭😭😭😭😭", "“", "@larki__", ":", "Yamilka", ",", "sheyla", "took", "my", "dollar", "to", "la", "iglesia", "dksishslbehelbeksbdjjdbksbs", "😭😍", "❤", "️", "RT", "@kiragarciaa", ":" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "other", "other", "other", "other", "ne", "other", "ne", "lang1", "lang1", "lang1", "lang1", "lang2", "lang2", "unk", "other", "other", "other", "lang1", "other", "other" ]
17
[ "Te", "pienso", "y", "no", "te", "puedo", "olvidar" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2" ]
18
[ "Am", "going", "to", "work", "really", "hard", "!!!", "No", "matter", "what", "is", "going", "in", "my", "life" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
19
[ "my", "mom", ":", "me", "puestes", "mandar", "unos", "gotero", "que", "se", "llama", "\"", "me", "vale", "madre", "\"", "jajajaja" ]
[ "lang1", "lang1", "other", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other", "lang2", "lang2", "lang2", "other", "lang2" ]
20
[ "this", "can", "be", "happing", "to", "me", "Noooooo", "wake", "up", "girl", "!!!" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
21
[ "no", "tutti", "fruitt", "today", ":(" ]
[ "lang1", "ne", "ne", "lang1", "other" ]
22
[ "Un", "poco", "de", "miedo", "😏" ]
[ "lang2", "lang2", "lang2", "lang2", "other" ]
23
[ "\"", "Smile", "cause", "your", "smile", "is", "amazing", "\"", "😄" ]
[ "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "other" ]
24
[ "Yo", "no", "soy", "de", "botas", "vaquera", "me", "miro", "súper", "mal", "jajaja" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2" ]
25
[ "I", "already", "know", "what", "I", "want", "for", "my", "b-day", ":)" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
26
[ "I", "just", "want", "to", "slap", "my", "self", "jaja", "stop", "it", "Alejandra", "stop", "it" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang2", "lang1", "lang1", "ne", "lang1", "lang1" ]
27
[ "I", "just", "want", "to", "slap", "my", "self", "jaja" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang2" ]
28
[ "I", "want", "to", "go", "to", "san", "Antonio", "!!!", "and", "to", "hill", "country", "and", "san", "marcos", "too" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "ne", "other", "lang1", "lang1", "ne", "ne", "lang1", "ne", "ne", "lang1" ]
29
[ "I", "want", "to", "sleep", "more", "😴😴😞" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
30
[ "I", "want", "friday", "to", "be", "here", "already", ":)", "can", "wait", "I", "just", "hope", "it", "fit", "😁" ]
[ "lang1", "lang1", "ne", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
31
[ "I", "need", "that", "yesterday", ":)" ]
[ "lang1", "lang1", "lang1", "lang1", "other" ]
32
[ "Que", "rico", "me", "duele", "mi", "cuerpo", "#goodexercise" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang1" ]
33
[ "I", "hope", "it", "can", "happen", "!!!", "if", "not", "it", "ok", "pero", "if", "it", "does", ":)", "please", "please", "let", "it", "happen", "<3" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang2", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
34
[ "A", "dormir", "goodnight", "😘" ]
[ "lang2", "lang2", "lang1", "other" ]
35
[ "@alexiasalazar8", "meow" ]
[ "other", "unk" ]
36
[ "lol", "ELLEN", "saying", "she", "has", "no", "money", "to", "tip", "the", "pizza", "boy", ":')" ]
[ "lang1", "ne", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
37
[ "@biittchmiko", "Okay", "I", "'m", "going", "send", "it", "to", "you", "or", "its", "all", "the", "same", "thing" ]
[ "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1" ]
38
[ "@biittchmiko", "Okay", ",", "Priscilla", "gave", "me", "a", "coupon", "I", "could", "used", "it", ",", "but", "I", "can", "n't", "print", "it", "." ]
[ "other", "lang1", "other", "ne", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
39
[ "@Moniii_07", "@daang_priscilla", "Sorry", "girls", "I", "did", "n't", "know", "you", "all", "where", "going", "to", "call", "me", ":(" ]
[ "other", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
40
[ "I", "think", "I", "'ll", "just", "go", "to", "bed", "." ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
41
[ "Hay", "Dios", ",", "I", "'m", "tired", "." ]
[ "lang2", "ne", "other", "lang1", "lang1", "lang1", "other" ]
42
[ "Wow", ",", "I", "love", "oomf", "she", "makes", "me", "laugh", "(:" ]
[ "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
43
[ "Mallorie", "and", "Megan", "are", "freaking", "hilarious", "..." ]
[ "ne", "lang1", "ne", "lang1", "lang1", "lang1", "other" ]
44
[ "@biittchmiko", "I", "'ll", "be", "there", "like", "at", "4", "Okay", "give", "me", "a", "discount", "lol", "(:" ]
[ "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
45
[ "Duele", "el", "amor", "sin", "ti", ",", "duele", "hasta", "matar", "." ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "other", "lang2", "lang2", "lang2", "other" ]
46
[ "Lastnight", "I", "cried", ",", "till", "I", "fell", "asleep", "." ]
[ "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "other" ]
47
[ "Lastnight", ",", "talking", "a", "David", "about", "all", "my", "problems", ",", "the", "shit", "I", "'ve", "been", "through", ",", "I", "knew", "he", "'s", "a", "good", "friend", "." ]
[ "lang1", "other", "lang1", "lang1", "ne", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
48
[ "&", "lastnight", "was", "one", "of", "those", "days", "." ]
[ "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
49
[ "When", "I", "'m", "depress", ",", "I", "fall", "asleep", "early", "," ]
[ "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "other" ]
50
[ "I", "'m", "done", ",", "I", "'m", "done", "." ]
[ "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "other" ]
51
[ "I", "love", "Alicia", "no", "matter", "how", "much", "shit", "we", "go", "through", "we", "always", "talk", "about", "and", "where", "there", "like", "sisters", "(:" ]
[ "lang1", "lang1", "ne", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
52
[ "Only", "music", "will", "make", "me", "happy", "!!!!!!" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "other" ]
53
[ "I", "love", "to", "dance", "to", "Reggeton", ">>>>" ]
[ "lang1", "lang1", "lang1", "lang1", "lang1", "ne", "other" ]
54
[ "His", "dick", "was", "small", ",", "that", "all", "there", "saying", "." ]
[ "lang1", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "other" ]
55
[ "deseo", "acabar", "con", "todo", "..." ]
[ "lang2", "lang2", "lang2", "lang2", "other" ]
56
[ "@quinti14", "ouchh" ]
[ "other", "unk" ]
57
[ "reaccióna", "encabronada", "como", "si", "el", "sueño", "fuese", "verdad", "..", "jajajaja" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other", "lang2" ]
58
[ "mis", "padres", "discutiendo", "quien", "grabo", "mejor", "el", "baile", "..", "jajajaja" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other", "lang2" ]
59
[ "@alexandrarosado", "el", "mio", "esta", "tan", "chaputeao", "que", "me", "da", "pena" ]
[ "other", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2" ]
60
[ "@NEWdanicsierra", "em", "que", "?" ]
[ "other", "lang2", "lang2", "other" ]
61
[ "@alexandrarosado", "@mememecaigo", "que", "?", "voy", "a", "morir", "!", "yo", "ni", "se", "como", "hacerlo", "!", ":'(" ]
[ "other", "other", "lang2", "other", "lang2", "lang2", "lang2", "other", "lang2", "lang2", "lang2", "lang2", "lang2", "other", "other" ]
62
[ "@mememecaigo", "dime", "que", "eso", "no", "es", "para", "mañana", "y", "que", "es", "para", "el", "5", ":(" ]
[ "other", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other", "other" ]
63
[ "@quinti14", "ouchh", "..", "como", "te", "lo", "doblaste", "?" ]
[ "other", "unk", "other", "lang2", "lang2", "lang2", "lang2", "other" ]
64
[ "no", "poder", "ir", "a", "la", "playa", "porque", "no", "he", "terminado", "de", "estudiar", "me", "duele", ":/" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other" ]
65
[ "@PMGA_", "jajajajaaj", "mi", "papa", "hiso", "lo", "mismo", "!" ]
[ "other", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other" ]
66
[ "@colon_andre", "papi", "lo", "grabo", "en", "su", "cel" ]
[ "other", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2" ]
67
[ "mi", "tia", "llorando", "viendo", "el", "video", "esto", "no", "pasa" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2" ]
68
[ "sigo", "viendo", "el", "baile", "de", "nosotras", "y", "sigo", "llorando" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2" ]
69
[ "@vivivazq", "cuando", "no", "?" ]
[ "other", "lang2", "lang2", "other" ]
70
[ "@yandiaflandia", "vivi", "durmio", "como", "18", "..." ]
[ "other", "ne", "lang2", "lang2", "other", "other" ]
71
[ "\"", "¿", "vas", "hacer", "algo", "hoy", "?", "\"", "-sii", ",", "decir", "que", "voy", "a", "estudiar", "y", "terminar", "trabajos", "y", "no", "hacer", "tres", "carajos", "..." ]
[ "other", "other", "lang2", "lang2", "lang2", "lang2", "other", "other", "lang2", "other", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other" ]
72
[ "mil", "cosas", "que", "terminar", "y", "yo", "sigo", "aqui", "en", "mi", "cama", "esperando", "que", "de", "alguna", "manera", "se", "hagan", "..." ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other" ]
73
[ "como", "es", "posible", "que", "dormi", "tanto", "y", "quiero", "seguir", "durmiendo", "..." ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other" ]
74
[ "dormí", "15", "horas", "..." ]
[ "lang2", "other", "lang2", "other" ]
75
[ "este", "dia", "se", "me", "ha", "hecho", "eterno" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2" ]
76
[ "esta", "urbanisacion", "es", "enorme", "..." ]
[ "lang2", "lang2", "lang2", "lang2", "other" ]
77
[ "que", "empieze", "ya", "!" ]
[ "lang2", "lang2", "lang2", "other" ]
78
[ "@saocopapi", "a", "mi", "tambien", "me", "dio", "!", "-.-", "voy", "a", "llorar", "!" ]
[ "other", "lang2", "lang2", "lang2", "lang2", "lang2", "other", "other", "lang2", "lang2", "lang2", "other" ]
79
[ "no", "hay", "nadie", "en", "la", "escuela", "todavia", "cual", "es", "proposito", "...." ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other" ]
80
[ "escondiendonos", "...", "JA", "!" ]
[ "lang2", "other", "lang2", "other" ]
81
[ "quiero", "café", "ahora", "!" ]
[ "lang2", "lang2", "lang2", "other" ]
82
[ "@esthimarie", "graciass", ":)" ]
[ "other", "lang2", "other" ]
83
[ "@esthimarie", "oka" ]
[ "other", "lang1" ]
84
[ "@NEWdanicsierra", "como", "pagamos", "pal", "de", "$$$", "por", "mañana", "yo", "no", "me", "lo", "quito", ":)" ]
[ "other", "lang2", "lang2", "lang2", "lang2", "other", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other" ]
85
[ "@esthimarie", "ustedes", "pidieron", "las", "camisas", "exactas", "?", "pq", "mi", "mama", "se", "antojo", "de", "una", "ahora", "-.-" ]
[ "other", "lang2", "lang2", "lang2", "lang2", "lang2", "other", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other" ]
86
[ "el", "rotulo", "del", "baño", ":", "\"", "orine", "feliz", ",", "orine", "contento", "pero", "por", "favor", "orine", "adentro", "..", "\"", ":')" ]
[ "lang2", "lang2", "lang2", "lang2", "other", "other", "lang2", "lang2", "other", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other", "other", "other" ]
87
[ "hoy", "me", "siento", "bien", "senior", "..." ]
[ "lang2", "lang2", "lang2", "lang2", "lang1", "other" ]
88
[ "me", "queje", "de", "las", "preguntas", "por", "dos", "horas", "...", "las", "termine", "en", "menos", "de", "media", "hora" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2" ]
89
[ "ni", "el", "header", "he", "hecho", "...." ]
[ "lang2", "lang2", "lang1", "lang2", "lang2", "other" ]
90
[ "por", "que", "me", "levante", "?", "-.-" ]
[ "lang2", "lang2", "lang2", "lang2", "other", "other" ]
91
[ "va", "tener", "un", "hijo", "...", "confrsion", "es", "mio", "!" ]
[ "lang2", "lang2", "lang2", "lang2", "other", "lang2", "lang2", "lang2", "other" ]
92
[ "pregunta", "del", "semestre", ":", "\"", "para", "donde", "te", "vas", "a", "estudiar", "?", "\"" ]
[ "lang2", "lang2", "lang2", "other", "other", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other", "other" ]
93
[ "este", "cielito", "lindo", "!", ":)" ]
[ "lang2", "lang2", "lang2", "other", "other" ]
94
[ "no", "siento", "mis", "piernas", "-.-" ]
[ "lang2", "lang2", "lang2", "lang2", "other" ]
95
[ "cuando", "se", "quito", "la", "camisa", ">>" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "other" ]
96
[ "la", "gente", "que", "no", "fue", "por", "cobarde", "se", "lo", "perdio", "!" ]
[ "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other" ]
97
[ "@christ1226", "uhh", "se", "ven", "cabronas", ":)" ]
[ "other", "unk", "lang2", "lang2", "lang2", "other" ]
98
[ "@esangiecarajo", "lo", "que", "tu", "digas", "jajajaja" ]
[ "other", "lang2", "lang2", "lang2", "lang2", "lang2" ]
99
[ "antes", "de", "comer", ":", "\"", "cállate", "no", "me", "hables", ",", "te", "odio", "\"", "despues", "de", "comer", ":", "\"", "cállate", "no", "me", "hables", ",", "estoy", "feliz", "\"" ]
[ "lang2", "lang2", "lang2", "other", "other", "lang2", "lang2", "lang2", "lang2", "other", "lang2", "lang2", "other", "lang2", "lang2", "lang2", "other", "other", "lang2", "lang2", "lang2", "lang2", "other", "lang2", "lang2", "other" ]
End of preview (truncated to 100 rows)

Dataset Card for "lince"

Dataset Summary

LinCE is a centralized Linguistic Code-switching Evaluation benchmark (https://ritual.uh.edu/lince/) that contains data for training and evaluating NLP systems on code-switching tasks.

Supported Tasks and Leaderboards

More Information Needed

Languages

More Information Needed

Dataset Structure

Data Instances

lid_hineng

  • Size of downloaded dataset files: 0.41 MB
  • Size of the generated dataset: 2.28 MB
  • Total amount of disk used: 2.69 MB

An example of 'validation' looks as follows.

{
    "idx": 0,
    "lid": ["other", "other", "lang1", "lang1", "lang1", "other", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "lang1", "mixed", "lang1", "lang1", "other"],
    "words": ["@ZahirJ", "@BinyavangaW", "Loved", "the", "ending", "!", "I", "could", "have", "offered", "you", "some", "ironic", "chai-tea", "for", "it", ";)"]
}

lid_msaea

  • Size of downloaded dataset files: 0.77 MB
  • Size of the generated dataset: 4.66 MB
  • Total amount of disk used: 5.43 MB

An example of 'train' looks as follows.

This example was too long and was cropped:

{
    "idx": 0,
    "lid": ["ne", "lang2", "other", "lang2", "lang2", "other", "other", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "lang2", "other", "lang2", "lang2", "lang2", "ne", "lang2", "lang2"],
    "words": "[\"علاء\", \"بخير\", \"،\", \"معنوياته\", \"كويسة\", \".\", \"..\", \"اسخف\", \"حاجة\", \"بس\", \"ان\", \"كل\", \"واحد\", \"منهم\", \"بييقى\", \"مقفول\", \"عليه\"..."
}

lid_nepeng

  • Size of downloaded dataset files: 0.52 MB
  • Size of the generated dataset: 3.06 MB
  • Total amount of disk used: 3.58 MB

An example of 'validation' looks as follows.

{
    "idx": 1,
    "lid": ["other", "lang2", "lang2", "lang2", "lang2", "lang1", "lang1", "lang1", "lang1", "lang1", "lang2", "lang2", "other", "mixed", "lang2", "lang2", "other", "other", "other", "other"],
    "words": ["@nirvikdada", "la", "hamlai", "bhetna", "paayeko", "will", "be", "your", "greatest", "gift", "ni", "dada", ";P", "#TreatChaiyo", "j", "hos", ";)", "@zappylily", "@AsthaGhm", "@ayacs_asis"]
}

lid_spaeng

  • Size of downloaded dataset files: 1.13 MB
  • Size of the generated dataset: 6.51 MB
  • Total amount of disk used: 7.64 MB

An example of 'train' looks as follows.

{
    "idx": 0,
    "lid": ["other", "other", "lang1", "lang1", "lang1", "other", "lang1", "lang1"],
    "words": ["11:11", ".....", "make", "a", "wish", ".......", "night", "night"]
}

ner_hineng

  • Size of downloaded dataset files: 0.13 MB
  • Size of the generated dataset: 0.75 MB
  • Total amount of disk used: 0.88 MB

An example of 'train' looks as follows.

{
    "idx": 1,
    "lid": ["en", "en", "en", "en", "en", "en", "hi", "hi", "hi", "hi", "hi", "hi", "hi", "en", "en", "en", "en", "rest"],
    "ner": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-PERSON", "I-PERSON", "O", "O", "O", "B-PERSON", "I-PERSON"],
    "words": ["I", "liked", "a", "@YouTube", "video", "https://t.co/DmVqhZbdaI", "Kabhi", "Palkon", "Pe", "Aasoon", "Hai-", "Kishore", "Kumar", "-Vocal", "Cover", "By", "Stephen", "Qadir"]
}

Data Fields

The data fields are the same among all splits.

lid_hineng

  • idx: a int32 feature.
  • words: a list of string features.
  • lid: a list of string features.

lid_msaea

  • idx: a int32 feature.
  • words: a list of string features.
  • lid: a list of string features.

lid_nepeng

  • idx: a int32 feature.
  • words: a list of string features.
  • lid: a list of string features.

lid_spaeng

  • idx: a int32 feature.
  • words: a list of string features.
  • lid: a list of string features.

ner_hineng

  • idx: a int32 feature.
  • words: a list of string features.
  • lid: a list of string features.
  • ner: a list of string features.

Data Splits

name train validation test
lid_hineng 4823 744 1854
lid_msaea 8464 1116 1663
lid_nepeng 8451 1332 3228
lid_spaeng 21030 3332 8289
ner_hineng 1243 314 522

Dataset Creation

Curation Rationale

More Information Needed

Source Data

Initial Data Collection and Normalization

More Information Needed

Who are the source language producers?

More Information Needed

Annotations

Annotation process

More Information Needed

Who are the annotators?

More Information Needed

Personal and Sensitive Information

More Information Needed

Considerations for Using the Data

Social Impact of Dataset

More Information Needed

Discussion of Biases

More Information Needed

Other Known Limitations

More Information Needed

Additional Information

Dataset Curators

More Information Needed

Licensing Information

More Information Needed

Citation Information

@inproceedings{aguilar-etal-2020-lince,
    title = "{L}in{CE}: A Centralized Benchmark for Linguistic Code-switching Evaluation",
    author = "Aguilar, Gustavo  and
      Kar, Sudipta  and
      Solorio, Thamar",
    booktitle = "Proceedings of The 12th Language Resources and Evaluation Conference",
    month = may,
    year = "2020",
    address = "Marseille, France",
    publisher = "European Language Resources Association",
    url = "https://www.aclweb.org/anthology/2020.lrec-1.223",
    pages = "1803--1813",
    language = "English",
    ISBN = "979-10-95546-34-4",
}

Note that each LinCE dataset has its own citation too. Please see here for the correct citation on each dataset.

Contributions

Thanks to @lhoestq, @thomwolf, @gaguilar for adding this dataset.

Models trained or fine-tuned on lince