tt-books-cyrillic / README.md
tagay1n
Changed to parquet and updated README
46d09f1
|
raw
history blame
4.05 kB
metadata
license: mit
language:
  - tt
tags:
  - tt
  - tatar
  - books
pretty_name: Collection of books in Tatar language in Cyrillic script

Tatar Books Collection (Cyrillic) 📚

This dataset, hosted by Yasalma, is a curated collection of Tatar books in Parquet format. The texts are in Cyrillic script, making this dataset ideal for linguistic research, language modeling, and other NLP applications in the Tatar language.

Dataset Details

  • Language: Tatar (Cyrillic script)
  • Format: Single Parquet file
  • Column:
    • text: Separated by paragraphs content of all books(with empty lines)
  • Total Size: 78 MB
  • License: MIT

Structure

The dataset is stored as a single Parquet file for efficient storage and quick data access. Each row in the Parquet file represents an individual paragraph from Tatar books, containing only the text column.

Potential Use Cases

  • Language Modeling: Train language models specifically for Tatar in Cyrillic script.
  • Machine Translation: Use the dataset for Cyrillic-to-Latin transliteration and other translation tasks.
  • Linguistic Research: Study linguistic structures, grammar, and vocabulary in Tatar.

Examples

Here’s how to load and use the dataset in Python with pandas:

import pandas as pd

# Load the Parquet file
df = pd.read_parquet("path/to/0000.parquet", engine="pyarrow")

# View the first few rows
print(df.head())

Example of a sample entry:

text
Каргалыдагы татарларның казаклы төркемнәре 1870 еллардагы урыс-төрек сугышында катнашып кайткач Каргалы елгасының икенче ягында аерым бер бистә булып яши башлыйлар. Алар шул Дунай буйларында дан алып кайткач, торган бистәләрен дә истәлеккә Дунай (Дүнә) ягы дип атап йөргәннәр. Дүнә ягы зураеп, аның үзенең зираты да үсеп киткән. Әлеге зиратны 2005 елда беркадәр өйрәнеп аның материалларын да бу китапка кертүне кирәк дип саныйбыз. Дүнә зираты да бик зур мәйдан биләп тора, анда тарихыбыз өчен кирәкле сәхифәләр саклана. Биредә без 13 ташбилгене укып тасвирладык.

Usage

To load the dataset using Hugging Face’s datasets library:

from datasets import load_dataset

dataset = load_dataset("neurotatarlar/tt-books-cyrillic")

Contributions and Acknowledgements

This dataset is maintained by the Yasalma team. Contributions, feedback, and suggestions are welcome to improve and expand the dataset.