Dataset Preview
Duplicate
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
The dataset generation failed
Error code:   DatasetGenerationError
Exception:    CastError
Message:      Couldn't cast
content: string
scraped_at: string
source: string
category: string
_mattr_clean: double
mai_fraction: double
lid_majority: string
lid_n_sentences: int64
url: string
title: string
date: timestamp[s]
author: string
to
{'content': Value('string'), 'scraped_at': Value('string'), 'source': Value('string'), 'category': Value('string'), '_mattr_clean': Value('float64'), 'mai_fraction': Value('float64'), 'lid_majority': Value('string'), 'lid_n_sentences': Value('int64')}
because column names don't match
Traceback:    Traceback (most recent call last):
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1816, in _prepare_split_single
                  for key, table in generator:
                                    ^^^^^^^^^
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 613, in wrapped
                  for item in generator(*args, **kwargs):
                              ~~~~~~~~~^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 343, in _generate_tables
                  self._cast_table(pa_table, json_field_paths=json_field_paths),
                  ~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 132, in _cast_table
                  pa_table = table_cast(pa_table, self.info.features.arrow_schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2369, in table_cast
                  return cast_table_to_schema(table, schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2297, in cast_table_to_schema
                  raise CastError(
                  ...<3 lines>...
                  )
              datasets.table.CastError: Couldn't cast
              content: string
              scraped_at: string
              source: string
              category: string
              _mattr_clean: double
              mai_fraction: double
              lid_majority: string
              lid_n_sentences: int64
              url: string
              title: string
              date: timestamp[s]
              author: string
              to
              {'content': Value('string'), 'scraped_at': Value('string'), 'source': Value('string'), 'category': Value('string'), '_mattr_clean': Value('float64'), 'mai_fraction': Value('float64'), 'lid_majority': Value('string'), 'lid_n_sentences': Value('int64')}
              because column names don't match
              
              The above exception was the direct cause of the following exception:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1369, in compute_config_parquet_and_info_response
                  parquet_operations, partial, estimated_dataset_info = stream_convert_to_parquet(
                                                                        ~~~~~~~~~~~~~~~~~~~~~~~~~^
                      builder, max_dataset_size_bytes=max_dataset_size_bytes
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  )
                  ^
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 948, in stream_convert_to_parquet
                  builder._prepare_split(split_generator=splits_generators[split], file_format="parquet")
                  ~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1683, in _prepare_split
                  for job_id, done, content in self._prepare_split_single(
                                               ~~~~~~~~~~~~~~~~~~~~~~~~~~^
                      gen_kwargs=gen_kwargs, job_id=job_id, **_prepare_split_args
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  ):
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1869, in _prepare_split_single
                  raise DatasetGenerationError("An error occurred while generating the dataset") from e
              datasets.exceptions.DatasetGenerationError: An error occurred while generating the dataset

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

content
string
scraped_at
string
source
string
category
string
_mattr_clean
float64
mai_fraction
float64
lid_majority
string
lid_n_sentences
int64
भगवान् लक्ष्मीनारायणक ध्यान स्तोत्र वैकुण्ठाधिपति भगवान् श्री लक्ष्मीनारायणक ध्यान ध्यायाम्यप्राकृतौ सच्चिदानन्दमयविग्रहौ । लक्ष्मीनारायणौ दिव्यवैकुण्ठपुरवासिनौ ॥ नीलो नारायणो देवः पीताम्बरचतुर्भुजः । शंखचक्रगदापद्मवनमालाविभूषितः ॥ सुगन्धिः सरसः कान्तो माधुरीरसनिर्झरः । दयायाः सागरोऽनन्तः स एव परमा रमा ॥ लक्ष्मीर्हिरण्...
2026-07-16T10:07:39.569745
maithilijindabaad
social_science
0.6683
0.625
mai_Deva
16
मैथिल विवाह मे जयमाल अनिवार्य विधान नहि थीकै लेख विचार प्रेषित आभा झा श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय मैथिल विवाह मे जयमाल मैथिल विवाह बदलाव स्वीकारताक संग परंपराक निर्वहन जयमालाक नव औचित्य परिवर्तन जीवनक अनिवार्य सत्य थीक। जँ समाज समयक प्रवाह संग नहि चलैत तँ ओ ठहरि जायत। मै...
2026-07-16T10:07:39.569826
maithilijindabaad
social_science
0.6004
1
mai_Deva
28
जयमाल प्रेमक प्रथम स्पर्श आ गंधर्व विवाहक अनुभूति थिक लेख विचार प्रेषित दिलीप झा ललित श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय मैथिल विवाह मे जयमाल वरवधूक प्रथम सार्वजनिक संयोगक पावन क्षण जयमाला फूलक सुवास सेँ जुड़ल संस्कारक मधुर उजास जयमालाक क्षण में फूटै छै प्रेमक प्रथम प्रकाश। मैथ...
2026-07-16T10:07:39.570111
maithilijindabaad
social_science
0.586
1
mai_Deva
38
संयुक्त परिवार माने विभिन्न जिम्मेदारी केर संग आर्थिक साझेदारीके लाभ अमूल्य अछि लेख विचार प्रेषित दिलीप झा ललित श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय मिथिला संयुक्त परिवारक जीवंत दर्शन घरआँगनक फूल सुवासित आऽ संगस्नेहक नेहक रंग मिथिला में संयुक्त परिवार जीवनक सततम धड़कन अंग। मिथिला...
2026-07-16T10:07:39.570219
maithilijindabaad
social_science
0.596
0.975
mai_Deva
40
अपन रीति बिसरि आन समाजक रेबाज लेल सब बेहाल लेख विचार प्रेषित शेफालिक दत्त श्रीजा श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय मैथिल विवाह मे जयमाल विषय विवाह आ बाह्म आडंबर ई बात त सही अछि जे अखुनका युग मे आधुनिकता केर होड़ मे सब कियो वाह्य आडम्बर युक्त विवाह सँ प्रभावित भ रहल छथि।जिनका पा...
2026-07-16T10:07:39.570350
maithilijindabaad
social_science
0.5765
1
mai_Deva
18
नौकरी केर कारण सँ परदेश बसने सझिया परिवार आब नै रहि गेल लेख विचार प्रेषित प्रिया झा श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय मैथिल विवाह मे जयमाल विषयसंयुक्त परिवार आब सभ एकल परिवार मे रहय छीसंयुक्त परिवार मे नञि रहय छी । छोट परिवार भऽ गेल ।पहिलुक जकाँ नञि रहल व्यवस्था परिवार के बदलि...
2026-07-16T10:07:39.570382
maithilijindabaad
social_science
0.5159
0.9167
mai_Deva
12
दहेज परंपरा नै समाजिक दंश थिक लेख विचार प्रेषित कीर्ति नारायण झा श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय इंसानियत केँ शर्मसार करैत दहेजक दानव हमर भारतीय समाज जे अपन गौरवशाली परम्परा संस्कार आ पारिवारिक मूल्यक लेल विश्वमे जानल जाइत अछि ओही समाजक माथ पर दहेज नामक एकटा भयंकर कलंक लागल ...
2026-07-16T10:07:39.570478
maithilijindabaad
social_science
0.5793
1
mai_Deva
25
संयुक्त परिवार सँ हानि लाभ दुनू अछि लेख विचार प्रेषित आशा चौधरी श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय संयुक्त परिवार मतलब जे साझी परिवार पहिलुक एकटा कहावत छलै जे दस सेरे नै नितराइ दस समांगे नितराइ। यानी कतबो धनिक छी आ परिवार छोट अछि तऽ नै घमंड करू अगर परिवार पैघ अछि तखन घमंड करू। ...
2026-07-16T10:07:39.570515
maithilijindabaad
social_science
0.6627
1
mai_Deva
18
विवाह कोनो खेल नै समृद्ध आऽ सार्थक परंपरा थीक दहेज मुक्त मिथिला लेख विचार प्रेषित प्रिया झा श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय मैथिल विवाह मे जयमाल आ बाह्य आडंबर विवाह सबसँ महत्वपूर्ण संस्कार अछि। विवाह पहिने आ अखनो मैथिल समाज मे विवाह एकटा संस्कार के रूपमे देखल जाइत अछि। विवाह...
2026-07-16T10:07:39.570588
maithilijindabaad
social_science
0.4879
1
mai_Deva
17
विद्यापति दरभंगा महाराज केर राज कवि आ सलाहकार छलथि लेख विचार प्रेषित नीलम झा निवेधा श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय विद्यापति बिसफी गाममे विद्यापतिक नामक एकटा मैथिली भाषा केर महान कवि छलाह आ महादेवक बहुत पैघ भक्त छलाह।लोक कहैत छैथ जे नचारी आ महेशवाणी हुनके सँ शुरू भेल।ओ भक्त...
2026-07-16T10:07:39.570615
maithilijindabaad
social_science
0.626
1
mai_Deva
40
अपन पुरखाजनक महत्वपूर्ण परम्परा प्रति सचेत रहनाय परम जरूरी अछि मोक्षदा एकादशीक प्रातक एकटा छोट प्रवीण सन्देश बन्धुगण जीवन मे कर्म अनेकों करय पड़ैछ मनुष्य केँ । कर्महि गुणे धर्म होइछ । धर्मक सेहो कतेको रूपरंग हमअहाँ मिथिलावासी अपन पुरखाजन सँ सिखैत आयल छी । हमरा त सच पुछू माँ सेहो धार्मिक आ पिता सेहो धार्मिक भेटलथि । हाल...
2026-07-16T10:07:39.570738
maithilijindabaad
social_science
0.658
0.9697
mai_Deva
33
विद्यापति केर लिखल गीत एखनहुँ सब विध व्यवहारमे गाओल जाएत अछि लेख विचार प्रेषित कीर्ति नारायण झा श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय विद्यापति मिथिला आ महाकवि विद्यापति एक दोसर के पूरक मानल जाइत छैथि। भक्त के दास के रूप भगवान द्वारा सेवा के भाव उगना आ विद्यापति द्वारा सदृश होइत अ...
2026-07-16T10:07:39.570779
maithilijindabaad
social_science
0.6368
1
mai_Deva
22
विद्यापति केँ मैथिल कवि कोकिलक उपाधि भेटल छलन्हि लेख विचार प्रेषित आभा झा श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय मैथिल कोकिल विद्यापति व्यक्तित्व आ कृतित्व केर धनी कविकुलशिरोमणि अभिनव जयदेव आ मैथिल कोकिलक नाम सँ विख्यात महाकवि विद्यापति ठाकुर अपन विलक्षण प्रतिभा सँ मैथिली साहित्यक ...
2026-07-16T10:07:39.570857
maithilijindabaad
social_science
0.6571
0.9714
mai_Deva
35
मिथिला मे जयमाल मात्र देखसी उतारब थिक लेख विचार प्रेषित नीलम झा निवेधा श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय मैथिल विवाह मे जयमाल एहि विषय पर हमर मन्तवय विवाह जखन दू परिवारक मनबंध होइत अछि त निश्चित कएल जाइत अछि दूगोटाकें संबंध। एहि मे पहिने लोग बर के देखैत छल कनियाकें नञि। फेर कन...
2026-07-16T10:07:39.570894
maithilijindabaad
social_science
0.6512
1
mai_Deva
15
विष्णु भगवान केँ बड्ड प्रिय छनि तुलसी पात लेख विचार प्रेषित दिलीप झा ललित श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय तुलसी केर महत्व आस्था आरोग्य आऽ अध्यात्मक हरित प्रतीक मिथिलाक तुलसी भक्ति शुद्धि आऽ प्रेमक संगम थिक ई गाछ। तुलसी पूजन सँ भेटैछ प्रभु कृपाक एक आस॥ मिथिलाक संस्कृति अपन प्...
2026-07-16T10:07:39.570982
maithilijindabaad
folklore
0.5856
1
mai_Deva
27
औषधिय गुणक पौती छी तुलसी केर गाछ लेख विचार प्रेषित आभा झा श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय तुलसी केर महत्व तुलसी भारतीय संस्कृतिक पूजनीय अमृत भारतीय संस्कृति आ अध्यात्ममे तुलसीक जे स्थान भेटल अछि ओ कोनो आन पौधा के नहि भेटल अछि। ई मात्र एकटा गाछ नहि बल्कि साक्षात देवी स्वरूप आ...
2026-07-16T10:07:39.571016
maithilijindabaad
folklore
0.5826
1
mai_Deva
29
विद्यापति केँ मिथिला मे सांस्कृतिकदेवता स्वरूपें पूजल जाइत छनि लेख विचार प्रेषित मंजूषा झा विषय कवि कोकिल विद्यापति जीवन काव्य भाषा भक्ति आ सांस्कृतिक योगदान विद्यापति जीवन काव्य भाषा भक्ति आ सांस्कृतिक योगदान अविस्मरणीय छनि प्रस्तावना भारतीय साहित्यक इतिहास मे मिथिला सदियों सँ दर्शन न्याय तर्क व्याकरण आ काव्यपरंपराक स...
2026-07-16T10:07:39.571085
maithilijindabaad
social_science
0.616
1
mai_Deva
40
वैज्ञानिक दृष्टिकोण सँ सेहो ऑक्सीजन उत्सर्जित करै वला स्वास्थ्य लेल अमृत समान अछि तुलसी वन लेख विचार प्रेषित अशोक कुमार सहनी श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय तुलसी पूजाक महत्त्व सनातन धर्मक परम्परा अत्यंत समृद्ध आ गहन अध्यात्मिक चिन्तन सँ भरल अछि। प्रत्येक मास प्रत्येक तिथि आ...
2026-07-16T10:07:39.571191
maithilijindabaad
folklore
0.558
0.95
mai_Deva
40
बहिन आऽ भाइक प्रेम प्रकृति आऽ पक्षीसंरक्षण संगहि नारीक सौंदर्यबोध आऽ सृजनशीलता के अद्भुत प्रतीक मानल जाएत अछि लेख विचार प्रेषित दीलीप झा ललित श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय मिथिला केर सामा चकेबा पावनि स्नेह सृजन आऽ संस्कृति केर पर्व सामाचकेबा माटिक गंध गीतक लय सँ जीवित अछि ...
2026-07-16T10:07:39.571381
maithilijindabaad
folklore
0.5769
0.95
mai_Deva
20
अतिथि केँ भगवान बूझि सत्कार मे समर्पित रहै छथि मैथिल लेख विचार प्रेषित दिलीप झा ललित श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय अतिथि सत्कार माटिक महक आ मनुक्खक स्नेह मिथिलाक आतिथ्य संस्कार मिथिला जनकसीताविद्यापतिक धरती जहाँक माटि सँ केवल धान आ पान नहि संस्कारक सुवास उठैत अछि। एहि धरती...
2026-07-16T10:07:39.571417
maithilijindabaad
folklore
0.624
1
mai_Deva
40
परना दिन सँ सामा बनाएल आ खेलाएल जाएत अछि लेख विचार प्रेषित रजनी झा श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय मिथिला केर पावनि सामा चकेबा आएल कार्तिक मास हो भैया सामा लेल अबतार मिथिला के परम्परिक सामा चकेवा हमर मिथिला के लेल एक महत्वपूर्ण दिवस अछि हम सब सामा छठ के पारण दिन सँ खेलाइत छी...
2026-07-16T10:07:39.571510
maithilijindabaad
social_science
0.674
1
mai_Deva
7
मिथिला मे अतिथिक केँ खुआ पिता कऽ जनऊ आ पान सुपारी अवश्ये देल जाए छनि लेख विचार प्रेषित प्रिया झा श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय मिथिला मे अतिथीक सत्कार मिथिला आ मैथिल केर वर्णन खेनाई केर विन्यास आ अतिथि सत्कार लेल नामी अछि। मिथिलाक संस्कृति मे अतिथि केर स्वागत सत्कार प्रशंस...
2026-07-16T10:07:39.571533
maithilijindabaad
folklore
0.497
1
mai_Deva
15
सुंदर सत्कार सँ अतिथि देवो भव केँ चरितार्थ करैत अछि मिथिलाक लोक लेख विचार प्रेषित भावेश चौधरी श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय अतिथिक सत्कार मिथिला विद्याकि भूमि परंपराक पालिका आ संस्कृतिक सुवासित उद्यान अपन आत्मीयता उदारता आ आतिथ्य भावना लेल सम्पूर्ण विश्व मे आदरणीय मानल जाइ...
2026-07-16T10:07:39.571558
maithilijindabaad
folklore
0.5975
1
mai_Deva
24
भाई बहिन कऽ सुभकामना लेल मनबैत अछि ई पाबनि सामा चकेबा लेख विचार प्रेषित दीपा शेखर झा श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय मिथिला केर सामा चकेबा पावनि सामा चकेबा भाई बहिनक अटूट प्रेमक प्रतीक पाबैन अछि मिथिला मे बड़ धूमधाम सऽ मनाओल जाईत अछि। समा चकेबा पाबनिक शुरुआत कार्तिक मासक शुक...
2026-07-16T10:07:39.571624
maithilijindabaad
social_science
0.576
1
mai_Deva
22
धन केर ओगरवाह भगवान धन्वंतरिक आराधना लेख विचार प्रेषित दिलीप झा ललित श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय धनतेरस आरोग्य समृद्धि आ आत्मिक उजासक पर्व धनतेरस दीप झिलमिल घर मुसकाय आँगन में शुभ जोति समाय। धनतेरस दिन आयल सन्देश आरोग्य लक्ष्मी सुखक परिवेश। दीपावली पर्वक आरम्भ धनतेरस सँ ...
2026-07-16T10:07:39.571662
maithilijindabaad
social_science
0.6976
1
mai_Deva
15
धनतेरस के सांझ मे यमदेव केँ दीपदान कयला सँ अकाल मृत्यु सँ मुक्ति भेटैत छै लेख विचार प्रेषित कीर्ति नारायण झा श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय धनतेरस के महत्व एकटा अंग्रेजी मे कहावत छैक जे जँ सम्पत्ति केर नुकसान भेल तऽ कोनो नुकसान नहिं भेल कारण सम्पत्ति पुनः उपार्जित कयल जा सक...
2026-07-16T10:07:39.571733
maithilijindabaad
social_science
0.5836
0.9375
mai_Deva
16
छौर छौर छौर चूगला कोठी छौर धान धान धान भैया कोठी धान लेख विचार प्रेषित कीर्ति नारायण झा श्रोत दहेज मुक्त मिथिला समूह लेखनी के धार बृहस्पतिवार साप्ताहिक गतिविधि विषय मिथिला केर सामा चकेबा पावनि सामा चकेबा भाई बहिन के प्रेम के कहानि अछि। सामा बहिन छलखिन आर चकेबा भाई छलखिन। चूगला अनेरे के कृष्ण के बना बना के चूगलपन केलक आ...
2026-07-16T10:07:39.571764
maithilijindabaad
social_science
0.518
0.85
mai_Deva
40
End of preview.

MaithiliBERT: First Pretrained Language Model for Maithili

MaithiliBERT is a RoBERTa-base model (125M parameters) pretrained on MaithiliCorpus — the largest open Maithili text corpus (39.8M words, LID-filtered and deduplicated).

This is the first pretrained language model specifically for Maithili, a low-resource Indic language spoken by ~34 million people.

Model Details

Property Value
Architecture RoBERTa-base
Parameters 124M
Training Data MaithiliCorpus (gold_deduped, 39.8M words, 47.9K docs)
Vocabulary BPE, 50K tokens
Context Length 512 tokens
Training 10 epochs, effective batch 32, FP16
License CC-BY-4.0

Performance

Task Metric Score
MLM Perplexity Hold-out set TBD
Domain Classification 4-class accuracy TBD

Usage

from transformers import pipeline, AutoModelForMaskedLM, AutoTokenizer

model = AutoModelForMaskedLM.from_pretrained("AiventraLab/maithili-roberta")
tokenizer = AutoTokenizer.from_pretrained("AiventraLab/maithili-roberta")

fill = pipeline("fill-mask", model=model, tokenizer=tokenizer)
results = fill("भगवान् <mask>क ध्यान")
for r in results:
    print(r["sequence"], r["score"])

Training Details

  • Data: LID-filtered + deduplicated subset of MaithiliCorpus (47,882 documents)
  • Tokenizer: ByteLevel BPE with 50K vocabulary trained on the corpus
  • Optimizer: AdamW (lr=5e-4, β₁=0.9, β₂=0.98, ε=1e-6)
  • Schedule: Linear warmup for 10% of steps, linear decay
  • Batch: Effective batch size 32 (8 per GPU × 4 gradient accumulation steps)
  • Mixed precision: FP16

Acknowledgments

The authors gratefully acknowledge AnK Komputing for providing the computational resources and infrastructure used to conduct the simulations/analyses presented in this work. We thank the team at AnK Komputing for their technical support and access to their high-performance computing services.

Citation

@article{maithili2026corpus,
  title={MaithiliCorpus: An Auditable 65.6M-Word Resource and a Validation Study of Raw-Text Morphological Rule Induction},
  author={[Authors]},
  journal={arXiv preprint},
  year={2026}
}

Limitations

  • Pretrained on a single domain-imbalanced corpus (55.9% literary, 0.7% children's literature)
  • May not generalize well to dialects or register variation
  • BPE tokenizer may split rare Maithili words inefficiently

See Also

Downloads last month
32

Models trained or fine-tuned on AiventraLab/maithili-corpus