Datasets:
Dataset Preview
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
The dataset generation failed because of a cast error
Error code: DatasetGenerationCastError
Exception: DatasetGenerationCastError
Message: An error occurred while generating the dataset
All the data files must have the same columns, but at some point there are 1 new columns ({'group_id'})
This happened while the csv dataset builder was generating data using
hf://datasets/Minuri/culturax_cleaned_version/near_duplicate_groups_stage7.csv (at revision 475b0f23b00b87c14a0756841e25beff01e86dd9), ['hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/final_corpus_1M.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/near_duplicate_groups_stage7.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage10_final_corpus.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage10_final_corpus_deduped.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage10_length_filter_log.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage2_discard_log.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage3_cleaned.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage4_boilerplate_log.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage4_cleaned.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage5_cleaned.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage5_discard_log.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage6_cleaned.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage7_cleaned.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage8_cleaned.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage8_filter_log.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/top200_for_review.csv']
Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)
Traceback: Traceback (most recent call last):
File "/usr/local/lib/python3.12/site-packages/datasets/builder.py", line 1890, in _prepare_split_single
writer.write_table(table)
File "/usr/local/lib/python3.12/site-packages/datasets/arrow_writer.py", line 760, in write_table
pa_table = table_cast(pa_table, self._schema)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/table.py", line 2272, in table_cast
return cast_table_to_schema(table, schema)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/table.py", line 2218, in cast_table_to_schema
raise CastError(
datasets.table.CastError: Couldn't cast
group_id: int64
sentence: string
-- schema metadata --
pandas: '{"index_columns": [{"kind": "range", "name": null, "start": 0, "' + 492
to
{'sentence': Value('string')}
because column names don't match
During handling of the above exception, another exception occurred:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1342, in compute_config_parquet_and_info_response
parquet_operations, partial, estimated_dataset_info = stream_convert_to_parquet(
^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 907, in stream_convert_to_parquet
builder._prepare_split(split_generator=splits_generators[split], file_format="parquet")
File "/usr/local/lib/python3.12/site-packages/datasets/builder.py", line 1739, in _prepare_split
for job_id, done, content in self._prepare_split_single(
^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/builder.py", line 1892, in _prepare_split_single
raise DatasetGenerationCastError.from_cast_error(
datasets.exceptions.DatasetGenerationCastError: An error occurred while generating the dataset
All the data files must have the same columns, but at some point there are 1 new columns ({'group_id'})
This happened while the csv dataset builder was generating data using
hf://datasets/Minuri/culturax_cleaned_version/near_duplicate_groups_stage7.csv (at revision 475b0f23b00b87c14a0756841e25beff01e86dd9), ['hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/final_corpus_1M.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/near_duplicate_groups_stage7.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage10_final_corpus.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage10_final_corpus_deduped.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage10_length_filter_log.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage2_discard_log.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage3_cleaned.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage4_boilerplate_log.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage4_cleaned.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage5_cleaned.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage5_discard_log.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage6_cleaned.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage7_cleaned.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage8_cleaned.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/stage8_filter_log.csv', 'hf://datasets/Minuri/culturax_cleaned_version@475b0f23b00b87c14a0756841e25beff01e86dd9/top200_for_review.csv']
Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
sentence string |
|---|
ඔහු නැවත සියරට පැමිණි විට සිතේ ඇතිවන සිතුවිලි සමුදාය මේ ගීතයෙන් කියවෙනවා |
දගකාරිගේ ලස්සන ඇස් දගයාගේ පොල් ගෙඩියක් වගේ රවුන් මූනෙන් හෙමින් ඉවතට ගියා |
යහමින් සෝස් ටික එකතු කරගන්න අතරතුර හොදින් කලවම් කරගැනීමද අමතක කරන්න එපා෴ |
විශේෂ නිවේදනයක් නිකුත් කරමින් මහ බැංකු අධිපතිවරයා මේ බව අවධාරණය කර සිටී෴ |
මොරිස් ඔස්ටින් රථයක් මිදුලේ නවත්වනු දුටු අප දෙදෙනා නෙත් අයා බලා සිටියෙමු |
අපි දවසක් ලෑස්ති කරගෙන ගමේ සියළුදෙනාටම එන්න කිව්ව තම තමන්ගෙ අදහස් කියන්න |
දවසක් අපේ හාමුදුරුවො මේ පොඩි හාමුදුරුවන් සමඟ උවමනාවකට දුර ගමනක් වැඩම කළා |
සියලුම ඇඳුම් පැළඳුම් අතුරින් සූවිශේෂී තැනක් ඇය පළඳා සිටින මාල හතට ලැබූණා |
ඒ පිළිබඳ ශාන්ත තෝමස් ඇක්වයිනාස් කළ ප්රකාශයක් අපට මෙහිදී සලකා බැලිය හැකිය |
ලාංකික ඉරණම වන්නේ සදහටම අරාබියේ වහල් සේවයට හෝ කොරියාවේ රැකියා වලට යාමටයි |
එදා දුටු මතු පිට පවා මහා විශ්ව කර්මයෙකුගේ නිර්මාණයක් ලෙසින් අපි දුටුවෙමු |
තිහාරියේ දී ඇය දුෂණය කළ අනෙක් පුද්ගලයා යුද හමුදා පොලිසියේ කපිතාන් වරයෙකි |
එහෙමත් නැත්තං මගෙත් එක්ක මළ පැනපු පාර සීයලගෙ ගෙවල් පැත්තෙවත් ගියාද දන්නෑ |
පුරුදු පරිදි අම්මලා වෙනුවෙන් අවුරුද්දට ගෙදර ආව මම හිතේ හැටියට නිදා ගත්තා |
ඇමෙරිකාවෙ ප්රහාර වලින් මැරෙන්නේ සිවිල් වැසියෝ ඒක නිසා ඒවා යුද අපරාද නෙමේ |
සුළු හෝ මධ්ය පරිමාණ හෝටල් හිමියන් මෙම කර්මාන්තයේ දියුණුවට දායක විය යුතුය |
වචන දාහක රචනාවකින් කියන පනිවිඩය එක පුංචි කාටූනයකින් වඩා බලවත්ව කිව හැකිය |
එසේ කිරීමට අපොහොසත් වේ නම් අධිකරණය විසින් පනවනු ලබන දඬුවමට යටත්විය යුතුය |
පුංචි මල් වෙඩිල්ලක දිලිසෙන අංශු වගේ ආලෝක වර්ෂ බිලියන ගාණක් දුරට විහිදෙයි |
නමුත් ගැලපෙන කාඩ් අත ගැනීමට අවස්ථාව නමන්න වතුරෙන් සෝදා දිනුම් ඇදීම පමණක් |
වගේ පෝකර් ගහන්න දන්නවානම් සෙල්ලම් මෙය මූලික වශයෙන් ලබා ගත හැකි ප්රායෝගික |
දරිමුඛ ජාතකය මින් ප්රධාන තැනක් ගන්නේ මානසික රෝග වර්ගීකරණය කර ඇති බැවින්ය |
ඒ දේවල් අහපුවම විමුක්තිට නෙමේ මටත් ලැජ්ජාවක් හිතුන බන් සිංහලයෙක් වීම ගැන |
කැට කැබලිති දඬු මුගුරු ඈ ගෙන අනුන් පෙළන්නේ වෙහෙසන්නේ සාරද්ධපුද්ගල තෙමේ ය |
තමාට වෙඩි තැබුවේ අලි අග්කා ම බව දෙවැනි ජුවාම් පාවුළු පාප්තුමන් පිළිගනියි |
පැහැදිලි බව තහවුරු වෙන්න විනය කොච්චර දුරට බුදු දහමෙන් පෙන්නල දීල තියෙනවද |
අවුරුදු හතළිහ ඉක්මවා ගිය කතුන් තම පියයුරු පිළිබඳ අවධානයෙන් සිටිය යුතු වේ |
පහත වගුවෙන් දැක්වෙන්නේ පරිඝණක ක්රමලේඛන භාෂා හා ඒවගේ නම් හැදුන හැටි ගැනයි |
ප්රේම ජවනිකා කෘතියේදී මම හැකි තරම් උත්සාහ කරනවා ශෘංගාර රසය ඉස්මතු කිරීමට |
හදිසි අනතුරුවලට ලක්වීමේ ඉඩකඩ ඇති බැවින් ගමන් බිමන් යෑමේ දී ප්රවේශම් වන්න |
මෙහි ප්රතිඵලයක් ලෙස බඩු මිල ඉහළ ගහින් වැටුප් වැඩිවීමේ වාසියත් අහිමි වෙලා |
යන්න සොයා බැලිමෙදි අනුගමනය කළ යුතු පිලිවෙල මාතෘකා කිපයකින් විස්තර කල හැක |
කුමන හෝ අයුරකින් එය වර නැගීමට කාලපමාවක් අවශ්යය බව කාටත් ප්රත්යක්ෂ කරුනකි |
එහෙත් එයට යම් ව්යතිරේකයක් ඇත්නම් ඒ ආසියා අයත්වන්නේ වෙනත් වංශයකට නම් පමණි |
මේ යුද්ධය නම් කවදාවත් දිණන්න බෑ කියන්නට අනුර බණ්ඩාරනායක පවා අන්ධයෙක් විය |
සමාජ ජාලාව කවියෙකු බිහිවීමට හෝ ඔහුව පෝෂණය කිරීමට කවරකාර සේවයක් සලසන්නේ ද |
නමුත් ඉස්ලාම් දහමේ ඉගෙන්වීමන් අධ්යනය කලේනම් එය ඊට වඩා බොහෝ සෙයින් වෙනස්ය |
අපේ පක්ෂයේම අයත් බලාපොරොත්තු වෙනවා ගිය ආණ්ඩුව කළා වගේ බලය පාවිච්චි කරන්න |
නොදන්නා භාෂාවකින් දෙබස් කියන විට චරිතයේ හැඟීම් මතු කිරීම පහසු දෙයක් නොවේ |
අරුණ්යා සහ ඉන්ද්රජිත් ගේ දෙමළ සිංහල ප්රේම කතාව ඊට උත්තේජනයක් ලබා දුන්නේය |
දෙකට නැමී තිබුණ කඩදාසියක් යථා තත්ත්වයෙන් තැබුවත් යළි එය සුළඟටද නැමෙනු ඇත |
ඒ කාලයේ හැටියට ලොකු මහතාගේ කීමක් අහක දමන්නට ගමේ කිසිවකුටත් හැකියාවක් නැත |
ඇතැම් දේශපාලන ව්යාපාර ප්රකාශ කරනවා මෙය බටහිරවාදී හා රට බෙදන වෑයමක් කියලා |
අධ්යාපනය සපයන්නන් විසින් සිදුකරන කෲර මර්දනය එයට බොහෝ දුරකට හේතු වන්නට ඇත |
එහිදී මගේ නිරීක්ෂණයට හසුවූ දෙයක් තමයි ගොඩක් කසල බඳුන්වලට එන්නේ යෝගට් කප් |
රෑහියන් වවුලන් හා එන්ව සමූහ ගායනයක යෙදී සිටින්නේ පාන්දර පාළුව මකන්නට විය |
ධීවරයන්ට නිසි ලෙස වන්දි ගෙවීමක් නොමැති නිසා ධීවර කාර්මිකයන් අද අසරණ වෙලා |
මහින්ද රාජපක්ෂ ගේ පොහොට්ටුව සමග සන්ධාන ගත වී ඡන්දය ඉල්ලීමට වළිකෑවා නොවේද |
මා ජීවත්වන ජර්මනියේ දේශපාලනය ගැන පවතින කියමනකින් මම මෙම ලිපිය අවසන් කරමි |
ඒ දරුවන්ගේ මෙන්ම රාජකාරි කටයුතු හේතුවෙන් කර්ය බහුල ජිවිත ගත කරන නිසාවෙනි |
මේ විදියට ලොකු ආලෝක ධාරා ගෙනිහින් ආලෝකමත් කරල පින්තූර ගන්නේ පළමු වතාවටයි |
පාසල් යන පොඩි දරුවෙක් සිටින අම්ම කෙනෙකුටත් අපි පොත් පාර්සලයක් ලබා දුන්නා |
අපෙ ඊලග දවස වෙන් කරලා තිබුනෙ අටමස්ථාන වගෙම අනුරදපුර නගරයෙ අසිරිය විදින්න |
ඇතු සමග පෙරටුව පෙරහරෙ ගමන් කිරීමද මේ පරපුරට පැවැරී ඇති රාජකාරියේම කොටසකි |
කාබන් ඩයොක්සයිඩ් විමෝචනය අඩු කිරීම සඳහා ඇය කරන යෝජනා ඉතා ප්රගතිගාමී වනවා |
සැමියාට මදකට මිදුලට යන්න යැයි කියූ පොලිස් පරීක්ෂකවරිය බිරිය සමග කතා කළාය |
මේ සඳහා ගැලපෙන සරල වචන භාවිතයක් මෙන්ම ආකර්ෂණීය ඡායාරූපද එක්කරගත යුතුව ඇත |
ස්වයං නීර්ණය සඳහා තමන්ට ඇති අයිතිය වෙනුවෙන් ඔවුහු අරගල ආරම්භ කළේ එබැවිනි |
නැන්දලා පියා සමඟ එක්වී සත්අන්ත පුවත්පත්වල මංගල දැනවීමක් පළ කෙළේද මේ අතරය |
අපට ඕනෑ වෙලා තියෙන්නේ කේරළයේ සිරිත් විරිත් ඒ විදිහටම මෙරටදී ඉටු කිරීමටයි |
ඔහුගේ සේවා කාලය නියමිත කාලයට පෙර අහෝසි කරන ලද්දේ ජනාධිපති සිරිසේන විසිනි |
මැදි වයසින් පසු උදාවන ජීවිතේ මිහිරිතම කාලය සතුටින් ගත කරන්න වැදගත් කරුණු |
ත්රස්තවාදය ම්රදනය කරන්න කියලා එදා ඉදලා කළේ මර්දනකාරී නීති සම්මත කරන එකයි |
උන්ට යුරෝපයෙ අනික් ජාතීන්ට වැඩිය ටිකක් මහත්මා ගති තියනවා කියල මට හිතෙනවා |
එය මහාචාර්ය තටිල් මහතාගේ ගණයේ ම විශේෂඥයන් ලංකාවට හඳුන්වා දී ඇති සූත්රයකි |
කාන්තාවන්ගේ සරු දින ගණනය කිරිම එහෙම සිදු වෙන්නෙත් මේ ඔසප් චක්රයට අනුවයි෴ |
දිස්ත්රික්කයන් හතරක අහුමුලු මේ ප්රදේශයට අයත් නිසා ඒ ගැටළු තවත් උග්ර කරයි |
වර්ජනයේ නිරත කාලය සඳහා කම්කරුවන්ගේ වැටුප් අත්හිටුවන බවට ඔහු තර්ජනය කලේ ය |
ඉදිරියේ නීති සම්පාදකයන් මේ ගැන කටයුතු කිරීම අත්යවශ්ය බව ඔහු කියා සිටියේය |
ඒ වගේම රංගොජාගෙ සහෝදර සමාගමටත් කීයක් හරි කොමිස් ගහ ගන්නත් පුළුවන් වෙයිනෙ |
සිස්ටම් කරන්න දාලා තිබුණ රත්නායක අනික් කෙනා මගේ මතකය නිවැරදි නම් දර්ශිකා |
මා කරන්නේ මෙය සත්ය වශයෙන්ම සිදුවීම යන ස්ථාවරය නොගෙන හැකියාව ඉහළ නැංවීමයි |
තේරුනාද මන්දාඒ කිව්වේ කෙල්ල බැඳපු එකියක් නෙවේ නම් තව චුට්ටක් ෆලොව් කරපිය |
ඒ අනුව මමත් ත්රස්තවාදීන් එම මාවතෙන් ඉවත්කර ගනු ලැබීමේ උත්සාහයට එකතු වුනා |
ලාල් කාන්ත කියන අශීලාචාර මනුස්සයා කරපු පහත් වැඩේට දඬුවම් විඳින්න ඕනි එයා |
මන්ද යක්ෂ නසමාජයට අයිති අය වාදයක් පටන් ගැනීමට එතරම් දුරට පැකිලෙන්නේ නැහැ |
සැබෑ ජීවිතයේ ශර්මි කුමාර් සහ ප්රසිද්ධියේ දකින චරිතය අතර වෙනසක් තියෙන වාද |
එදා නිවේදන කටයුතු කළේ ඇවිදින ගීත කැටලොග් එකක් වැනි රංජිත් පීරිස් මහත්මයා |
පහුරක අත් පා බැඳ දියඇල්ල වෙතට දැමූ ඉයුන්සම්ට ජීවිතය බේරාගන්නට හැකි වේවිද |
මොකද මගේ වයසේ අනිත් යාළුවෝ ඒ වෙද්දිත් විවිධ විධායක ශ්රේණිවල රැකියා කරනවා |
විජේදාස සහ රවී විද්යාලංකාර යනු දූෂිත රාජපක්ෂලා සමග ඩීල කළ නරුමයන් දෙපලකි |
මෑතකදී අද්භූත ආකරයට රවි විද්යාලංකාර සේවයන් ඉවත්ව යන ආකාරය දැකිය හැකි විය |
ඔහු තත්පර කීපයක් නිහඬ වෙලා යතුරු කැරල්ල පැත්තකින් තියල ඇඟිලිවල ඇට කැඩුව෴ |
මිලින්ද මොරගොඩම අරන් බලන්න එක්සත් ජාතික පක්ශේ කෙනෙක් නේ ලගදී සංදානෙට ආවා |
ඇයට අනුව අගමැති රාජපක්ෂ කියා ඇත්තේ ලංකාවේ ජනයාට භූමදානය තහනම් නැති බවයි෴ |
ඔහුගේ විනෝදකාමී දිවි පෙවෙත නිසා රටේ පොදු සුබ සාධන සේවා රාශියක් ඇණහිටියේය |
එම දර්ශන සමූහය චිත්රපටයේ කාව්යමය ගලායෑමටද බාධාවක් වී ඇති බව පැවසිය යුතුය |
කෙසේ වුවත් දූෂිත වායුව ශරීරගත වීම නිසා හානියට පත්වන්නේ පෙනහලු පමණක් නොවේ |
ඉතින් යන්ත්ර මන්ත්ර ගුරුකම් කරන විට සුළු අඩුපාඩුවක් වත් සිදු වෙන්නේ නැහැ |
මගේ යෙහෙළිය වාහනය හෙවනකට කරල එනතුරු ඔහුත් මමත් රන්කොත් වෙහෙරට පිටත් වුණා |
එවිට ජනාධිපතිට කළ හැක්කේ අගමැතිවරයකු හා අමාත්ය මණ්ඩලයක් පත් කරන එක පමණයි |
ඔවුන් උපයාගත් මුදල් මෙන්ම බොහෝ දෙනෙක් මේ සදහා උපකාර කරන්නට ඉදිරිපත් වුණා |
ඒත් එහෙම වෙන්නෙ ඇගේ බාහිර විස්තර කථනවලින් නෙවෙයි කියල මට හොඳටම විශ්වාසයි |
ඒත් පොඩිකාලේ මගේ හෙන ආසාවක් තිබ්බා ප්ලේන් එකක් කඩන් වැටෙද්දී එතන බිමඉන්න |
මේ මියගිය ගැහැණු ළමයින් දෙන්නගෙන් එක් කෙනෙක් වන ඉමේෂි මගේ ගර්ල් ෆ්රෙන්ඩ් |
ඔවුන් පවුලේ ඉතා විශේෂ සාමාජිකයෙක් නම් අපි අපගේ සියලු සුරතල් සතුන් ආදරෙයි |
කරුණාකරලා බඩු තියන ඒවා එලියට ගන්නවා හොඳයි ලොකු මහත්තයට කේන්ති යන්න කලින් |
දේශියත්වය අගය නොකරනතාක් රටකට ඉදිරියට ගමන් කළ නොහැකි බවයි ඔහු කියා සිටියේ |
මෙම ස්වේච්ඡා සේවකයින් අතරින් එක් විශිෂ්ට ආදර්ශයක් ලෙස මගේ මනසේ කැපී පෙනේ |
මට රට පැන්සල් දෙන ලමයාද මගේ ජයසින්හේ අවසාන අවුරුද්දේ හිටියේ වෙන පන්තියකය |
End of preview.
Sinhala Cleaned Sentences - CulturaX
Cleaned and deduplicated Sinhala sentences derived from Minuri/sinhala-corpus-culturax, produced through a multi-stage cleaning pipeline. This repo was used as pipeline storage across cleaning stages, with the final output being stage10_final_corpus_deduped.csv.
Final Output
| File | Rows | Description |
|---|---|---|
stage10_final_corpus_deduped.csv |
3,684,137 | Final cleaned and deduplicated sentences |
Dataset Structure (final output)
| Column | Description |
|---|---|
sentence |
Cleaned Sinhala sentence |
Pipeline Stages
This repo stores intermediate CSV files across the 12-stage cleaning pipeline (stage2 through stage10), including cleaning logs and filter reports.
Pipeline Position
Minuri/sinhala-corpus-culturax → this repo → Minuri/diverse_sinhala_dataset
Sources & Licenses
| Source | License |
|---|---|
| uonlp/CulturaX | mC4 + OSCAR licenses - requires contact info agreement on HuggingFace |
Related Repositories
| Repo | Description |
|---|---|
Minuri/sinhala-corpus-culturax |
Raw sentences (4,707,451) |
Minuri/diverse_sinhala_dataset |
Final parent corpus |
- Downloads last month
- 111