farabi-lab/Understanding_Dialect_Text

🇰🇿 Kazakh Dialect Analysis and Standardization Dataset

Dataset Summary

Kazakh Dialect Analysis and Standardization Dataset is a Kazakh-language linguistics dataset designed for dialect identification, dialectal feature analysis, and normalization into standard Kazakh.

The dataset contains instruction-style prompts asking the model to identify dialectal or regional language features in a given Kazakh text and explain how they can be converted into standard literary Kazakh. Each sample includes a detailed response that identifies dialectal words, expressions, regional usage patterns, standard equivalents, and a rewritten standard Kazakh version of the original passage.

---

📊 Dataset Statistics

General Metrics

Metric	Count
Total Samples	200
Total Words (approx.)	58,655
Avg. Words per Sample	293

Word Count Distribution Per Field

The following table details the distribution of word counts across different fields in the dataset.

Field	Mean	Median	Min	Max	Total Words
domain	1.0	1.0	1	1	200
prompt	73.2	73.0	45	103	14,635
response	218.1	214.0	90	380	43,620
sample_id	1.0	1.0	1	1	200

---

Dataset Structure

Each dataset instance contains a linguistic prompt, a detailed response, a domain label, and a unique sample identifier.

Data Fields

• sample_id: A unique identifier for each sample.

• prompt: The instruction and input text. The prompt usually asks the model to identify dialectal features in the provided Kazakh passage and explain how they can be converted into standard Kazakh.

• response: The expected answer. This field contains a detailed linguistic explanation, including dialectal expressions, possible regional associations, standard Kazakh equivalents, and a normalized version of the original text.

• domain: The broader domain of the sample. In this dataset, the domain is Linguistics.

---

Data Instance

Below is one representative example from the dataset.

  {
    "sample_id": "1",
    "prompt": "Мына мәтіндегі диалектілік ерекшеліктер қандай және оларды стандартты қазақ тіліне қалай келтіруге болады? Мәтін: 'Біздің елде қыс қатты болады, бірақ биыл жылы ғой. Кеше қойларға шөп беруге далаға шықтым. Аяз бет қарып барады. Апам айтты, 'Балам, киіміңді қалыңдау ки, суыққа ұрынба' деп. Қорада отырғанда, қойлар маңырады. Бұл малдың тірлігі қиын-ақ. Әсіресе, қар қалың болса, қамдану керек. Соң, үйге қайтып, жылы шай іштік. Қаланың балалары мұндайды қайдан білсін?! Ауылдағы тірлік басқа ғой, бәріміз бір-бірімізге тірек болып тұрамыз.'",
    "response": "Бұл мәтін Батыс Қазақстан диалектісіне тән сөйлеу ерекшеліктерін қамтиды, әсіресе ауызекі сөйлеу тілінде жиі қолданылатын, бірақ әдеби тілде сирек кездесетін немесе басқаша айтылатын сөздер мен тіркестер бар. Елде: Бұл жерде 'елде' сөзі 'ауылда' немесе 'мекенде' мағынасында қолданылған. Батыс пен Оңтүстік Қазақстан диалектілерінде 'ел' сөзі 'ауыл' мағынасында жиі қолданылады. Өңірі: Батыс, Оңтүстік Қазақстан. Стандартты баламасы: Ауылда, мекенде. Жылы ғой: 'Ғой' шылауы оңтүстік және батыс диалектілерінде жиі кездеседі, мағынаны күшейтеді немесе растайды. Әдеби тілде 'жылы' деп те айтуға болады, бірақ 'ғой' шылауы да әдеби тілде бар, тек ауызекі тілде жиі қолданылады. Өңірі: Жалпы ауызекі тілде, әсіресе Оңтүстік, Батыс, Орталық Қазақстан. Стандартты баламасы: Жылы, жылы екен. Аяз бет қарып барады: 'Бет қарып барады' тіркесі аяздың немесе суықтың бетке қатты әсер еткенін, оны 'тоңдырып' немесе 'күйдіріп' бара жатқанын білдіреді. Бұл тіркес Батыс өңірінде жиі кездеседі. Өңірі: Батыс Қазақстан. Стандартты баламасы: Бетті аяз қарыды, бетім тоңып барады. Қалыңдау ки: 'Қалыңдау' сөзі 'қалыңдау киім' немесе 'қалың киім' мағынасында қолданылған. Бұл ауызекі тілдегі жиі қолданыс. Әдеби тілде 'қалың киім ки' немесе 'қалыңдау киім ки' деп айтылады. Өңірі: Жалпы ауызекі тілде, барлық өңірде кездесуі мүмкін. Стандартты баламасы: Қалың киім ки. Соң, үйге қайтып: 'Соң' сөзі мұнда 'содан соң', 'кейін' немесе 'артынан' мағынасында қолданылған. Батыс диалектісінде жеке 'соң' ретінде қолдану жиі кездеседі. Өңірі: Батыс Қазақстан. Стандартты баламасы: Содан соң, кейін, артынан. Тірлік басқа ғой: 'Тірлік' сөзі 'тіршілік' мағынасында қолданылған. Екеуі де қазақ тілінде бар сөздер болғанымен, 'тіршілік' әдеби тілде жиірек қолданылады. Ал 'тірлік' ауызекі тілде, әсіресе Батыс және Оңтүстік өңірлерде кең таралған. Өңірі: Батыс, Оңтүстік Қазақстан. Стандартты баламасы: Тіршілік басқа ғой. Стандартты қазақ тіліндегі нұсқасы: 'Біздің ауылда қыс қатты болады, бірақ биыл жылы екен. Кеше қойларға шөп беруге далаға шықтым. Аяз бетті қарып барады. Апам айтты, 'Балам, қалың киім ки, суыққа ұрынба' деп. Қорада отырғанда, қойлар маңырады. Бұл малдың тіршілігі қиын-ақ. Әсіресе, қар қалың болса, қамдану керек. Содан соң, үйге қайтып, жылы шай іштік. Қаланың балалары мұндайды қайдан білсін?! Ауылдағы тіршілік басқа ғой, бәріміз бір-бірімізге тірек болып тұрамыз.'",
    "domain": "Linguistics"
  }

Funding

This dataset was developed as part of the project funded by the Ministry of Science and Higher Education of the Republic of Kazakhstan under Grant No. BR24993001, “Creation of a Large Language Model (LLM) to Support the Kazakh Language and Advance Technological Development.”

Citation

If you use this dataset in your research, please cite the following article:

APA

Kadyrbek, N., Tuimebayev, Z., Mansurova, M., & Viegas, V. (2025). The development of small-scale language models for low-resource languages, with a focus on Kazakh and direct preference optimization. Big Data and Cognitive Computing, 9(5), 137. https://doi.org/10.3390/bdcc9050137

BibTeX

@article{kadyrbek2025development,
  title     = {The Development of Small-Scale Language Models for Low-Resource Languages, with a Focus on Kazakh and Direct Preference Optimization},
  author    = {Kadyrbek, Nurgali and Tuimebayev, Zhanseit and Mansurova, Madina and Viegas, Vitor},
  journal   = {Big Data and Cognitive Computing},
  volume    = {9},
  number    = {5},
  pages     = {137},
  year      = {2025},
  publisher = {MDPI},
  doi       = {10.3390/bdcc9050137},
  url       = {https://www.mdpi.com/2504-2289/9/5/137}
}