Datasets:

BramVanroy
/

stack_md_lid

Modalities:

Formats:

Languages:

Size:

Libraries:

Dataset card Viewer Files Files and versions Community

BramVanroy commited on Jun 5

Commit

040bb6e

•

1 Parent(s): c6dc2e2

Update README.md

Files changed (1) hide show

README.md +215 -0

README.md CHANGED Viewed

@@ -75,3 +75,218 @@ configs:
   - split: train
     path: data/train-*
 ---

   - split: train
     path: data/train-*
 ---
+A copy of the deduplicated `the stack` Markdown files, annotated with fastText to include language labels (`lid` column) and probabilities (`lid_prob`). This was done using the NLLB fastText model [`facebook/fasttext-language-identification`](https://huggingface.co/facebook/fasttext-language-identification).
+The following languages were detected:
+- abk_Cyrl
+- ace_Arab
+- ace_Latn
+- ady_Cyrl
+- afr_Latn
+- aka_Latn
+- als_Latn
+- amh_Ethi
+- arb_Arab
+- arb_Latn
+- arn_Latn
+- asm_Beng
+- ast_Latn
+- ayr_Latn
+- azb_Arab
+- azj_Latn
+- bak_Cyrl
+- bam_Latn
+- ban_Latn
+- bel_Cyrl
+- bem_Latn
+- ben_Beng
+- bho_Deva
+- bis_Latn
+- bjn_Arab
+- bjn_Latn
+- bod_Tibt
+- bos_Latn
+- bug_Latn
+- bul_Cyrl
+- bxr_Cyrl
+- cat_Latn
+- ceb_Latn
+- ces_Latn
+- che_Cyrl
+- chv_Cyrl
+- cjk_Latn
+- ckb_Arab
+- crh_Latn
+- cym_Latn
+- dan_Latn
+- deu_Latn
+- dik_Latn
+- diq_Latn
+- dyu_Latn
+- dzo_Tibt
+- ell_Grek
+- eng_Latn
+- epo_Latn
+- est_Latn
+- eus_Latn
+- ewe_Latn
+- ewo_Latn
+- fao_Latn
+- fij_Latn
+- fin_Latn
+- fon_Latn
+- fra_Latn
+- fur_Latn
+- fuv_Latn
+- gaz_Latn
+- gla_Latn
+- gle_Latn
+- glg_Latn
+- gom_Deva
+- grn_Latn
+- guj_Gujr
+- hat_Latn
+- hau_Latn
+- heb_Hebr
+- hin_Deva
+- hrv_Latn
+- hun_Latn
+- hye_Armn
+- ibo_Latn
+- ilo_Latn
+- ind_Latn
+- isl_Latn
+- ita_Latn
+- jav_Latn
+- jpn_Jpan
+- kab_Latn
+- kac_Latn
+- kal_Latn
+- kam_Latn
+- kan_Knda
+- kas_Deva
+- kat_Geor
+- kaz_Cyrl
+- kbp_Latn
+- kea_Latn
+- khk_Cyrl
+- khm_Khmr
+- kik_Latn
+- kin_Latn
+- kir_Cyrl
+- kmb_Latn
+- kmr_Latn
+- knc_Arab
+- knc_Latn
+- kon_Latn
+- kor_Hang
+- krc_Cyrl
+- lao_Laoo
+- lij_Latn
+- lim_Latn
+- lin_Latn
+- lit_Latn
+- lmo_Latn
+- ltg_Latn
+- ltz_Latn
+- lua_Latn
+- lug_Latn
+- luo_Latn
+- lus_Latn
+- lvs_Latn
+- mag_Deva
+- mai_Deva
+- mal_Mlym
+- mar_Deva
+- min_Latn
+- mkd_Cyrl
+- mlt_Latn
+- mni_Beng
+- mos_Latn
+- mri_Latn
+- mya_Mymr
+- nav_Latn
+- nia_Latn
+- nld_Latn
+- nno_Latn
+- nob_Latn
+- npi_Deva
+- nso_Latn
+- nus_Latn
+- nya_Latn
+- oci_Latn
+- ory_Orya
+- oss_Cyrl
+- pag_Latn
+- pan_Guru
+- pap_Latn
+- pbt_Arab
+- pcm_Latn
+- pes_Arab
+- plt_Latn
+- pol_Latn
+- por_Latn
+- prs_Arab
+- quy_Latn
+- roh_Latn
+- ron_Latn
+- run_Latn
+- rus_Cyrl
+- sag_Latn
+- san_Deva
+- scn_Latn
+- sin_Sinh
+- slk_Latn
+- slv_Latn
+- smo_Latn
+- sna_Latn
+- snd_Arab
+- som_Latn
+- sot_Latn
+- spa_Latn
+- srd_Latn
+- srp_Cyrl
+- ssw_Latn
+- sun_Latn
+- swe_Latn
+- swh_Latn
+- szl_Latn
+- tah_Latn
+- tam_Taml
+- taq_Latn
+- tat_Cyrl
+- tel_Telu
+- tgk_Cyrl
+- tgl_Latn
+- tha_Thai
+- tir_Ethi
+- ton_Latn
+- tpi_Latn
+- tsn_Latn
+- tso_Latn
+- tuk_Latn
+- tum_Latn
+- tur_Latn
+- twi_Latn
+- udm_Cyrl
+- uig_Arab
+- ukr_Cyrl
+- umb_Latn
+- urd_Arab
+- uzn_Latn
+- vec_Latn
+- vie_Latn
+- war_Latn
+- wes_Latn
+- wol_Latn
+- xho_Latn
+- ydd_Hebr
+- yor_Latn
+- yue_Hant
+- zho_Hans
+- zho_Hant
+- zsm_Latn
+- zul_Latn