thetemirbolatov/Karachay-words

license: apache-2.0 language: - krc pretty_name: Karachay Words Dataset size_categories: - 10K<n<100K task_categories: - text-generation - fill-mask tags: - karachay - low-resource - vocabulary - nlp - language-modeling

Karachay Words Dataset (Къарачай-малкъар сёзле)

Этот репозиторий содержит базовый набор карачаевских слов и фраз, предназначенный для обучения и дообучения языковых моделей тюркской группы, в частности карачаево-балкарского языка (код языка ISO 639-3: krc).

Датасет создан для восполнения острой нехватки низкоресурсных языковых данных (Low-Resource NLP) и подходит для обучения с нуля, файнтюнинга существующих моделей или расширения токенизатора.

---

Описание данных

• Формат: JSON Lines (.jsonl). Каждая строка — валидный JSON-объект.
• Структура записи:

  {
    "word": "слово или фраза"
  }
  

• Содержимое: Словарь и словоформы карачаевского языка. Каждое слово или короткая фраза располагается в отдельной строке файла.
• Объем данных: 136706 строки (слов).
• Размер файла: ~4.6 МБ.
• Пример содержимого (karachay_words.jsonl):

  {"word": "да"}
  {"word": "абажур"}
  {"word": "абазалы"}
  {"word": "Ингир ашхы болсун"}
  {"word": "салам"}
  {"word": "привет"}
  {"word": "джутаргъа"}
  {"word": "халкъгъа ангылатыу"}
  ...
  

Особенности языкового состава

• Исконная карачаево-балкарская лексика.
• Современные заимствования из русского языка, адаптированные в орфографии (например, автомобиль, агрессив, агитпункт).
• Устойчивые выражения и фразеологизмы (Ингир ашхы болсун — Добрый вечер, ким билсин — кто знает).

---

Для каких задач подходит

Данный датасет можно использовать в следующих ML-сценариях:

1. Language Modeling (Causal LM): Обучение GPT-подобных моделей с нуля или дообучение мультиязычных архитектур.
2. Masked Language Modeling (MLM): Тренировка BERT-подобных энкодеров для карачаевского языка.
3. Расширение токенизатора: Добавление специфических токенов в существующие модели (LLaMA, XLM-RoBERTa) для снижения fertility и увеличения скорости инференса.
4. Spell Checking: Построение словаря для автоматической коррекции карачаевского текста.
5. NLP бенчмарки: Валидация качества эмбеддингов для тюркских языков.

---

Быстрый старт (Hugging Face Datasets)

Загрузить датасет напрямую из библиотеки datasets можно с помощью:

from datasets import load_dataset

dataset = load_dataset("thetemirbolatov/Karachay-words", split="train")
print(dataset[0]) 
# {'word': 'да'}

# Вывод первых 3 записей
for i, sample in enumerate(dataset.select(range(3))):
    print(f"{i}: {sample['word']}")
# 0: да
# 1: абажур
# 2: абазалы

Пример обработки для дообучения токенизатора

def get_training_corpus():
    dataset = load_dataset("thetemirbolatov/Karachay-words", split="train")
    for start_idx in range(0, len(dataset), 1000):
        samples = dataset[start_idx : start_idx + 1000]
        yield samples["word"]

# Использование с кастомным токенизатором
# tokenizer.train_new_from_iterator(get_training_corpus(), vocab_size=30000)

Чтение файла напрямую (без библиотеки datasets)

import json

words = []
with open("karachay_words.jsonl", "r", encoding="utf-8") as f:
    for line in f:
        data = json.loads(line)
        words.append(data["word"])

print(f"Загружено {len(words)} слов.")
# Загружено 18794 слов.

---

Ограничения (Bias & Limitations)

• Несбалансированность: Датасет представляет собой смесь общего словаря и отдельных форм слов. Он не является сбалансированным корпусом живой речи.
• Отсутствие разметки: В датасете нет частеречной разметки (POS-tags) или разбора по падежам. Только текст как есть.
• Русизмы: Присутствие большого количества слов с русскими корнями может быть как плюсом (для code-switching), так и минусом (если цель — обучить модель чистому литературному карачаевскому языку).

---

Лицензия

Данные распространяются под лицензией Apache 2.0. Вы можете свободно использовать, модифицировать и распространять их, в том числе в коммерческих проектах, с указанием авторства.

---

Автор

• Hugging Face: thetemirbolatov
• Если вы используете этот датасет в своих научных работах, пожалуйста, укажите ссылку на репозиторий.

---

Работа нацелена на цифровое возрождение и поддержку карачаево-балкарского языка (Къарачай-малкъар тил) с помощью современных методов ИИ.

Список изменений:

1. Убраны все эмодзи из заголовков.
2. Ключ в JSON-объектах заменен с `"text"` на `"word"` во всех местах:
   - В описании структуры записи.
   - В примере содержимого файла.
   - В коде Python (и через `load_dataset`, и при прямом чтении).
   - В выводе примеров (`sample['word']` вместо `sample['text']`).
3. Раздел "Ограничения" переименован без эмодзи.
4. Разделы "Лицензия" и "Автор" также приведены к единому стилю без эмодзи.