A clean, high-quality Azerbaijani text corpus built from 570+ books. 570+ kitabdan hazırlanmış təmiz, yüksək keyfiyyətli Azərbaycan dili mətn korpusu.

English · Azərbaycanca


Language / Dil	Azerbaijani (`az`)
Total rows / Ümumi sətir sayı	~840K
Source books / Mənbə kitablar	570+ (300+ fiction · 200+ scientific · 70+ political)
Format	Parquet / JSONL, single `text` field
License / Lisenziya	CC BY-NC-ND 4.0
Used to train / Təlimdə istifadə olunub	Khazri 3
Website / Sayt	softyu.org · khazri.dev

🇬🇧 English

Overview

Khazri Corpus is a large-scale, fully cleaned Azerbaijani-language text corpus designed for natural language processing research and language model development. It was built from more than 570 books — 300+ works of fiction, 200+ scientific books, and 70+ political books — supplemented by official legal texts. All books were collected from openly available sources.

Every text went through a cleaning process to remove noise and produce natural, well-formed Azerbaijani prose. The result is a high-quality corpus of ~840K rows covering literary, academic, political, and legal registers of the language.

This dataset was used in the training of the Khazri 3 model.

Subsets

The corpus is organized into thematic subsets, each loadable as a separate configuration:

Subset	Content	Source	Rows
`bedii`	Fiction and literary prose	300+ fiction books	696,848
`elmi`	Scientific and academic writing	200+ scientific books	79,157
`siyaset`	Political writing	70+ political books	46,462
`vergi`	Tax Code of the Republic of Azerbaijan	Official legal text	2,178
`mulk-mecelle/`	Civil Code of the Republic of Azerbaijan (JSONL file)	Official legal text	7,701
Total			~840K

Data Format

Each row contains a single field:

Field	Type	Description
`text`	`string`	A cleaned Azerbaijani text segment (a sentence or a short paragraph)

Example:

{"text": "Bu adı Qərbi Azərbaycanda yaşamış orta və yaşlı nəsil həmişə böyük ehtiramla xatırlayır."}

Usage

from datasets import load_dataset

# Load a single subset
bedii = load_dataset("softyugroup/khazri-corpus", "bedii", split="train")
elmi = load_dataset("softyugroup/khazri-corpus", "elmi", split="train")
siyaset = load_dataset("softyugroup/khazri-corpus", "siyaset", split="train")
vergi = load_dataset("softyugroup/khazri-corpus", "vergi", split="train")

print(bedii[0]["text"])

To combine all subsets into one corpus:

from datasets import load_dataset, concatenate_datasets

subsets = ["bedii", "elmi", "siyaset", "vergi"]
corpus = concatenate_datasets([
    load_dataset("softyugroup/khazri-corpus", name, split="train")
    for name in subsets
])

Intended Uses

Pre-training and continued pre-training of Azerbaijani language models
Training tokenizers for Azerbaijani
Fine-tuning and domain adaptation (literary, scientific, political, legal)
Linguistic research and NLP benchmarks for a low-resource language

Data Sources

All books and texts were collected from openly available sources. The corpus contains only the cleaned textual content; no personal user data was collected.

Limitations

Texts reflect the views, style, and possible biases of their original authors and time periods.
Rows are text segments; document-level boundaries and book metadata (author, title, year) are not included.
The corpus is intended for research and non-commercial use under the license terms below.

License

This dataset is released under the Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International (CC BY-NC-ND 4.0) license. You may share it with attribution for non-commercial purposes; redistribution of modified versions is not permitted.

Citation

@misc{khazri_corpus,
  title        = {Khazri Corpus: A Clean Azerbaijani Text Corpus},
  author       = {SoftYu Group},
  howpublished = {\url{https://huggingface.co/datasets/softyugroup/khazri-corpus}},
  note         = {Hugging Face dataset}
}

🇦🇿 Azərbaycanca

Ümumi məlumat

Khazri Corpus təbii dil emalı (NLP) tədqiqatları və dil modellərinin hazırlanması üçün yaradılmış, tam təmizlənmiş, geniş həcmli Azərbaycan dili mətn korpusudur. Korpusun hazırlanmasında 570-dən çox kitabdan — 300+ bədii, 200+ elmi və 70+ siyasi kitabdan — istifadə olunub, bunlara rəsmi hüquqi mətnlər də əlavə edilib. Bütün kitablar açıq mənbələrdən toplanıb.

Bütün mətnlər səs-küydən təmizlənmə prosesindən keçirilib və təbii, düzgün qurulmuş Azərbaycan dili mətnlərinə çevrilib. Nəticədə dilin bədii, elmi, siyasi və hüquqi üslublarını əhatə edən ~840K sətirlik yüksək keyfiyyətli korpus əldə olunub.

Bu dataset Khazri 3 modelinin təlimində istifadə olunub.

Alt bölmələr (subsetlər)

Korpus mövzular üzrə alt bölmələrə ayrılıb və hər biri ayrıca konfiqurasiya kimi yüklənə bilər:

Subset	Məzmun	Mənbə	Sətir sayı
`bedii`	Bədii ədəbiyyat və nəsr	300+ bədii kitab	696,848
`elmi`	Elmi və akademik mətnlər	200+ elmi kitab	79,157
`siyaset`	Siyasi mətnlər	70+ siyasi kitab	46,462
`vergi`	Azərbaycan Respublikasının Vergi Məcəlləsi	Rəsmi hüquqi mətn	2,178
`mulk-mecelle/`	Azərbaycan Respublikasının Mülki Məcəlləsi (JSONL fayl)	Rəsmi hüquqi mətn	7,701
Cəmi			~840K

Data formatı

Hər sətirdə bir sahə var:

Sahə	Tip	Təsvir
`text`	`string`	Təmizlənmiş Azərbaycan dili mətn parçası (cümlə və ya qısa abzas)

Nümunə:

{"text": "Bu adı Qərbi Azərbaycanda yaşamış orta və yaşlı nəsil həmişə böyük ehtiramla xatırlayır."}

İstifadə qaydası

from datasets import load_dataset

# Bir subseti yükləmək
bedii = load_dataset("softyugroup/khazri-corpus", "bedii", split="train")
elmi = load_dataset("softyugroup/khazri-corpus", "elmi", split="train")
siyaset = load_dataset("softyugroup/khazri-corpus", "siyaset", split="train")
vergi = load_dataset("softyugroup/khazri-corpus", "vergi", split="train")

print(bedii[0]["text"])

Bütün subsetləri bir korpusda birləşdirmək üçün:

from datasets import load_dataset, concatenate_datasets

subsets = ["bedii", "elmi", "siyaset", "vergi"]
corpus = concatenate_datasets([
    load_dataset("softyugroup/khazri-corpus", name, split="train")
    for name in subsets
])

Nəzərdə tutulan istifadə sahələri

Azərbaycan dili modellərinin ilkin (pre-training) və davamlı öyrədilməsi
Azərbaycan dili üçün tokenizatorların öyrədilməsi
Fine-tuning və sahəyə uyğunlaşdırma (bədii, elmi, siyasi, hüquqi)
Az resurslu dil kimi Azərbaycan dili üzrə linqvistik tədqiqatlar və NLP benchmarkları

Data mənbələri

Bütün kitablar və mətnlər açıq mənbələrdən toplanıb. Korpusda yalnız təmizlənmiş mətn məzmunu var; heç bir şəxsi istifadəçi məlumatı toplanmayıb.

Məhdudiyyətlər

Mətnlər orijinal müəlliflərin və dövrlərinin baxışlarını, üslubunu və mümkün qərəzlərini əks etdirir.
Sətirlər mətn parçalarıdır; sənəd sərhədləri və kitab metadataları (müəllif, ad, il) daxil edilməyib.
Korpus aşağıdakı lisenziya şərtlərinə uyğun olaraq tədqiqat və qeyri-kommersiya məqsədləri üçün nəzərdə tutulub.

Keçidlər

🌐 SoftYu: softyu.org
🤖 Khazri: khazri.dev

Lisenziya

Bu dataset Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International (CC BY-NC-ND 4.0) lisenziyası ilə yayımlanır. Müəllifə istinad etməklə qeyri-kommersiya məqsədləri üçün paylaşa bilərsiniz; dəyişdirilmiş versiyaların yayılmasına icazə verilmir.

İstinad

@misc{khazri_corpus,
  title        = {Khazri Corpus: A Clean Azerbaijani Text Corpus},
  author       = {SoftYu Group},
  howpublished = {\url{https://huggingface.co/datasets/softyugroup/khazri-corpus}},
  note         = {Hugging Face dataset}
}

Downloads last month: 150

Total file size:

78.6 MB

You need to agree to share your contact information to access this dataset

Khazri Corpus