Datasets:
ilist

Tasks:

Text Classification

Languages: Awadhi Bhojpuri Braj

Multilinguality: multilingual

Size Categories: 10K<n<100K

Language Creators: found

Annotations Creators: no-annotation

Source Datasets: original

Tags: language-identification

License:

Dataset card Viewer Files Files and versions Community

Dataset Viewer

Auto-converted to Parquet

View in Dataset Viewer

Viewer

Split (3)

train · 70.4k rows

language_id class label 5 classes	text stringlengths 0 2.91k
4HIN	तभी बारिश हुई थी जिसका गीलापन इन मूर्तियों को इन तस्वीरों में एक अलग रूप देता है .
4HIN	कहते हुए लफ्ज़ बेसुध करते गए कुछ इस तरह /कि इतना नशा तो होता न किसी असली जाम से .
3BHO	चिट्ठी में ऊ हमरा के होली पर बोलवले रहली.
4HIN	अब इंग्लैण्ड वाले भी जान गए साथ ही हैरान और परेशान भी हैं ,हमारे यहाँ आकर खुर्शीद जैसे लोग पढ़ गए जो अपने देश के आम आदमी के लिए ही असंविधानिक भाषा का इस्तेमाल करते हैं .
1BRA	ज्ञान गुण गावन को कलाविक सावन को ।
0AWA	हमरे ध्यान मां सती मइया केरी छवि उभरी ।
0AWA	बूंदा-बांदी अब थमिगै रहै ।
3BHO	कबीर त पुरा क पुरा भारतीय लोक जीवन मे रचल बसल बाटै ।
4HIN	एक तरफ एक के बाद नै पीढ़ी के एंटी -बायोटिक्स आ रहें हैं दूसरी तरफ जीवाणु अपना रूप विधान तेज़ी से बदल लेता है म्युतेट हो जाता है .
1BRA	ठंडयाई करसियान में भरि भरि कें छेदन में है कें कूल्लान में दई जाय रही ।
2MAG	- आइँ हो भोलवा, तुँ आज गिरहतवा से गारी-गुप्ता काहे ला करलहीं हे ।
0AWA	हाय राम ।
4HIN	तब ऐसा ही प्रतीत होता है हम हारी हुई लड़ाई ही लड़ रहें हैं .
2MAG	ऊ कहलक कि तूं गारी देइत हें ?
4HIN	कहीं कभी किसी दिन हम दोनों मिल जाएंजीवन के किसी राह पर तब क्या हम मिल पायेंगे ठीक पहले की तरह ?
1BRA	ब्रह्मचारी जी ब्रजभूमि की बा परम्परा के साहित्य सेवी है जब घर - चर में ल्हौरे-ल्हौरे बालकन कूं हजारो - हजारो कवित्त सवैया कण्ठस्थ करवाय दिये जाते हे ।
3BHO	मान ल कि होइए गइल त का करबू ?
1BRA	भविष्य में हमकू इनते भौत आसा है ।
1BRA	जबरदस्ती आपरेशन कराबे को हट करके बैठ गयौ ।
4HIN	इसमें चमड़ी से काफी तरल निकलके उड़ जाता है तथा तरह तरह के एलर्जी पैदा करने वाले तत्व इस सुरक्षा कवच में सैंध लगाके अन्दर देखिल होने लगते हैं .
4HIN	दूसरे छोर पर जो भविष्य की संभावनाओं में जीते हैं ,दिवा -स्वप्न -जीवी हैं,सीमाओं को दरकिनार कर सिर्फ संभावनाओं में जीतें हैं ,मैं ये कर दूंगा ,वो कर दूंगा ,ये करूंगा वो करूंगा वह वर्तमान को भी जी नहीं पाते .
2MAG	ई बात सच हकइ श्रीमान ।
1BRA	सुभग सरोवर लसत नीर, निरमल सुख कारी ।
3BHO	हँ अगर रजनेतन में 2-4 फीसदी जननेता के गुन बा त उ कुछ सकारात्मक नियम, योजनन पर विचार त क सकेला पर समाज, देस के असली बिकास जनते करेले।
3BHO	दोसरा बधार के लोग के त हाँफ उखड़ जाई, साँस टंगा जाई।
4HIN	उस दौरान अपराधियों का तो सफाया हो गया, लेकिन ज्यादातर ऐसे अपराधी मारे गये, जिनका अपराध कहीं से भी मौत की सजा के काबिल नहीं था ।
0AWA	तनिक देर मा सबै बिदाई के भाव मा बूड़ि गयीं ।
1BRA	मैंनैं कही " बाबा प्रात: काल के और सुन लेऔ । "
2MAG	बल्कि हमरे खातिर खुद के खियाल रखथिन ।
2MAG	” ई लिख के ओकर गला में बाँध देलन आउ कुता के जुगेन्दर के घरे भेज देलन ।
1BRA	बानगी सरूप ई पद गुच्छ है ।
3BHO	हमनी के मेहनत आ मउवत देखे वाला केहू नइखे।
3BHO	बाकिर एने तप में लीन कपिल मुनि जी तनिको ना हिलनी।
1BRA	ऐसे जनन पै संपादक की पैनी नजर पड़नी चइए ।
2MAG	वास्तव में ऊ गोलगंटा कट कटवा लेलकइ आउ अखने हिएँ परी ओकन्हीं साथे दावत उड़ा रहले ह !
4HIN	घनीभूत है अब भी, लेकिन मन कई और जगहों पर लौट गया है फिर से ।
3BHO	त्रिनिदाद आ टोबैगो में एगो भारतीय मूल के लड़िकी के क्लास मे तबले आवे से मना क दिहल गइल जब ले ओकरा हाथ में लागल मेंहदी के रंग छूट नइखे जात ।
2MAG	‘हम अनचलावल बात आउ बिनसुनल खिस्सा कह सकऽ हियो ।
2MAG	सातो मे छोटकी लड़की अप्पन बाप के बहुत दुलारी हल ।
4HIN	कितनी यादें तो हैं, कितने की याद दिलाऊं .
2MAG	बस जइसे भोजन करऽ ही, कयसूँ जीए ला, ओयसहीं ।
3BHO	केहू उनुका के खान मानत रहल त केहू ईसाई.
0AWA	कुछ खाय पियैक देति नाय ।
4HIN	आज मुझे मेरा आसमां मिल गया मेरे ही घर की छत के तले ना दीवारों की सरहद थी सब आर पार बड़ा ही साफ़ .
0AWA	हमका तौ सिगरेट देखिके खोपड़ी पर बना क्रास तुरन्तै याद आय जात है जो बिजली के ट्रांसफारमर पर बना होत है ।
4HIN	आप सोचतें हैं बस थोड़ा सा तौल कम करले अपनी स्लिम डाउन हो जाए लेकिन आपका ओवर वेट बच्चा पुष्टिकार तत्वों का अभाव झेल रहा हो सकता है .
3BHO	राम जी के होखले से इन्कार करे वाला कांग्रेसी खानदान तब अपना के जनेऊधारी बरहमन साबित करे में लाग गइल.
2MAG	उहाँ देखइत हे कि लालपरी के माय देखइत ही खाय ला दउगल तइसहीं लड़का चिट्टी फेंक देलक ।
3BHO	मत आबऽ" ।
2MAG	ओकरा मुँहें पर एगो झूठा दावेदार कहना खुद के मौत के बोलावा देना हलइ; आउ ऊ, जेकरा पर हम सब लोग के नजर में आउ क्रोधावेश के पहिला झोंक में टिकठी पर चढ़े लगी तैयार हलिअइ, अब हमरा व्यर्थ के आत्मप्रशंसा प्रतीत होलइ ।
2MAG	से राजा के बेटा उड़इत-उड़इत बड़ी दूर चल गेल ।
4HIN	फिर वहाँ फायदा यह है कि वहाँ पर पहाड़ों की खुबसूरती के साथ समुद्र भी है ।
3BHO	बंटी आ धनेसर के भोजपुरी में बतियात देख...
1BRA	जगत के पंछी आय, झाँप बिहारै हरप ।
2MAG	घोड़ा जमीन में उतारलन तो उहई रानी के एगो आउ लड़का भेल ।
0AWA	तौ का गुरूदेव अपने आश्रम लौटि चलिहौ ?
1BRA	पुकारो चिल्लाऔ , अखबारन में देओ भूख हड़ताल करि देऔ , तब देखे केसे नांय मिले सुविधा ।
2MAG	ओही दिन गाव के धोबी के एगो गदहा भुलायल हल से घो्बिया खोजइत - खोजइत पहर भर रात बीते चमरा ही आयल ।
1BRA	इन संवादन के मिसई लेखक ने पात्रन कौ चरित्र चित्रन कर्यौय ।
0AWA	-ई आपन बहू का दिहेव,बरकत ।
4HIN	लोग असल मुद्दों से भटक जाएं .
1BRA	बाबा हरेक कौ अपनौं अलगई नाम धरि लैंते अरू बाई नाम ते पूरी उमरि बाकूँ पुकारते ।
4HIN	इन्हीं भावों की कमी-अधिकता और संतुलन से मानव का व्यवहार, उसकी अस्मिता-स्‍व निर्धारित करता है ।
1BRA	गायन की लय पै रियाज होय ।
1BRA	नेह, दुलार अरु ममता की साक्षात् प्रतिमा डा. शकुन्तला तिवारी ने डा रामानन्द तिवारी की साहित्य साधना कूं सफलता की तरफ बढ़ायबे में जो प्रान फूंके है बाको वर्नन सब्दन में नाय है सके ।
4HIN	एक प्रकार से यह वह समय था जब छात्र आन्दोलन और संगठनों के लिए भौतिक परिस्थितियाँ धीरे -धीरे तैयार हो रही थीं ।
3BHO	गाँव में कहीं-कहीं सौरउर्जहिया लाइट भी लाग गइल बा।
3BHO	उ जे के मन से झाड़ि दें उ एकदम्मे ठीक हो जाव पर कबो-कबो उ लोग के इ हो कहें की इ झड़ले से ठीक ना होई, एकरा खातिर तोहरा डाक्टर से मिले के परी।
2MAG	ई समाचार से कज़ाक सब के साफ तौर पर नराजगी होलइ ।
2MAG	बुढ़िया नाँव पूछलक तो गभिया कहलक कि हमर नाँव हे नतिन-दमाद ।
4HIN	छात्रों के संगठित होने की इसी कड़ी में 1906 में पटना में बिहारी स्टूडेन्ट्स सेन्ट्रल एसोसिएशन की स्थापना राजेन्द्र प्रसाद की पहल पर हुई ।
2MAG	हम खुशी से ओकर इच्छा के पूर्ति कर देलिअइ ।
2MAG	श्रीमान, ऊ पल से हम ओकरा बिलकुल पसीन नयँ करऽ हलिअइ, हियाँ तक कि पहिला कुछ दिन तक तो ओकरा से घृणा करऽ हलिअइ ।
4HIN	वैसे भी एक सप्‍ताह घूमने से पूरे दो महिने का काम चलता नहीं है ।
4HIN	उत्तम बनर्जी चाहे टीवी हो या फिर प्रिंट .
2MAG	ओहे से अप्पन शान्ति खातिर हम ओकर प्रस्ताव से सहमत हो गेलूँ ।
3BHO	पुलिस के मुताबिक युवक के गोली मार के हत्या कईला के बाद पत्थर से ओकर माथा कूच दिहल गईल।
2MAG	दरवाजा खुललइ, एगो औरत उज्जर पोशाक में अंदर अइलइ ।
1BRA	राजस्थान ब्रजभाषा अकादमी की ओर सौं औदार्य प्रदर्शित करबे ते काम नाँय चलैगौ ।
0AWA	, भइया !
3BHO	राम के जवन जीवन बा उ अगर कलिजुग में भी हर मनई अपना ले इ धरती सोरग बनि जाई।
3BHO	भोजपुरी इलाका ।
3BHO	ऊ विमर्श संवेदनशीलता जरूरी बा, जवन आदमी के आदमी से जोड़ेला.
0AWA	आप अतने प्रेम से कहति हौ तौ कल शाम कैंहा सब कार्यक्रम छोड़ि हम पंच आप की भजन संध्या मैंहा जरूर भाग ल्याबै ।
1BRA	विषय के अनुसार ही भाषा कौ रूप बदलै है ।
1BRA	जरूरत जि है कि हम सब अपने परिवारन में ब्रजभाषा कौ ही प्रयोग करैं, और जिन अवरोधन कौ संकेत कियौ है; बा कच्ची और आधी अधूरी रुग्ण मानसिकता ते मुक्त होंय ।
2MAG	एगी हकीम हल, जेकर नाम लुकमान हल ।
2MAG	भाग्यवश, ऊ, हमर प्यारी बच्ची, ओकरा नयँ पछनलकइ ।
3BHO	रउआँ खुदे लिख के, बोलि के माई के सनमानित करतानीं...इ हे माई खातिर बहुत बा...
4HIN	कई बड़े लोगों को विनम्रता से उस ओर झुकते देखा ।
2MAG	हमर बात पर विश्वास करथिन श्रीमान ।
3BHO	हमहूं बानी तोहरा संघे !
2MAG	सावेलिच उनकन्हीं के पहिलहीं सूचित कर देलके हल ।
4HIN	यही मन चिंताएं करता है, सोचता है, स्मृति के टुकड़े पालता-पोसता है, अहसासों की चादर पसारता है, हमारे व्यवहार और सोच और कई बार काम-काज को नियंत्रित करता है ।
1BRA	याही के परिनाम स्वरूप भारत की समस्त आंचलिक भाषान में गद्य-लेखन कौ प्रयास हौंतौ दिखाई पड़ रह्यौ है ।
2MAG	लाल कुछ दिन के बाद एकदम पीअर हो गेल ।
1BRA	मेरे सिरजन में जहाँ एक ओर यथार्थ की बुराईन पै अाँसू बहाये गये है आगि बरसाई गई है - म्हाँई सोंने के सुपने ऊ जगाये गये है ।
2MAG	दूसरका बोलल कि ऊ अउरत गर्मिनी हल ।
2MAG	नकली सम्राट् सच कह रहले हल; लेकिन हम कर्तव्यबद्ध होवे के कारण ओकरा विश्वास देलावे लगलिअइ कि ई सब बकवास हइ, कि ओरेनबुर्ग में सब कुछ के पर्याप्त भंडार हइ ।
1BRA	लोगबाग देखकै रह जाते ।

End of preview. Expand in Dataset Viewer.

Dataset Card for ilist

Dataset Summary

This dataset is introduced in a task which aimed at identifying 5 closely-related languages of Indo-Aryan language family: Hindi (also known as Khari Boli), Braj Bhasha, Awadhi, Bhojpuri and Magahi. These languages form part of a continuum starting from Western Uttar Pradesh (Hindi and Braj Bhasha) to Eastern Uttar Pradesh (Awadhi and Bhojpuri) and the neighbouring Eastern state of Bihar (Bhojpuri and Magahi).

For this task, participants were provided with a dataset of approximately 15,000 sentences in each language, mainly from the domain of literature, published over the web as well as in print.

Supported Tasks and Leaderboards

[More Information Needed]

Languages

Hindi, Braj Bhasha, Awadhi, Bhojpuri and Magahi

Dataset Structure

Data Instances

{
    "language_id": 4,
    "text": 'तभी बारिश हुई थी जिसका गीलापन इन मूर्तियों को इन तस्वीरों में एक अलग रूप देता है .'
}

Data Fields

text: text which you want to classify
language_id: label for the text as an integer from 0 to 4 The language ids correspond to the following languages: "AWA", "BRA", "MAG", "BHO", "HIN".

Data Splits

	train	valid	test
# of input sentences	70351	9692	10329

Dataset Creation

Curation Rationale

[More Information Needed]

Source Data

The data for this task was collected from both hard printed and digital sources. Printed materials were obtained from different institutions that promote these languages. We also gathered data from libraries, as well as from local literary and cultural groups. We collected printed stories, novels and essays in books, magazines, and newspapers.

Initial Data Collection and Normalization

We scanned the printed materials, then we performed OCR, and finally we asked native speakers of the respective languages to correct the OCR output. Since there are no specific OCR models available for these languages, we used the Google OCR for Hindi, part of the Drive API. Since all the languages used the Devanagari script, we expected the OCR to work reasonably well, and overall it did. We further managed to get some blogs in Magahi and Bhojpuri.

Who are the source language producers?

[More Information Needed]

Annotations

Annotation process

[More Information Needed]

Who are the annotators?

[More Information Needed]

Personal and Sensitive Information

[More Information Needed]

Considerations for Using the Data

Social Impact of Dataset

[More Information Needed]

Discussion of Biases

[More Information Needed]

Other Known Limitations

[More Information Needed]

Additional Information

Dataset Curators

[More Information Needed]

Licensing Information

This work is licensed under a Creative Commons Attribution 4.0 International License: http://creativecommons.org/licenses/by/4.0/

Citation Information

@inproceedings{zampieri-etal-2018-language,
    title = "Language Identification and Morphosyntactic Tagging: The Second {V}ar{D}ial Evaluation Campaign",
    author = {Zampieri, Marcos  and
      Malmasi, Shervin  and
      Nakov, Preslav  and
      Ali, Ahmed  and
      Shon, Suwon  and
      Glass, James  and
      Scherrer, Yves  and
      Samard{\v{z}}i{\'c}, Tanja  and
      Ljube{\v{s}}i{\'c}, Nikola  and
      Tiedemann, J{\"o}rg  and
      van der Lee, Chris  and
      Grondelaers, Stefan  and
      Oostdijk, Nelleke  and
      Speelman, Dirk  and
      van den Bosch, Antal  and
      Kumar, Ritesh  and
      Lahiri, Bornini  and
      Jain, Mayank},
    booktitle = "Proceedings of the Fifth Workshop on {NLP} for Similar Languages, Varieties and Dialects ({V}ar{D}ial 2018)",
    month = aug,
    year = "2018",
    address = "Santa Fe, New Mexico, USA",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/W18-3901",
    pages = "1--17",
}