Kazakh Terminology
Collection
Terminology extraction models, datasets and evaluations for Kazakh NLP. Модели, датасеты и оценки для извлечения казахской терминологии. • 9 items • Updated
Datasets:
You need to agree to share your contact information to access this dataset
This repository is publicly accessible, but you have to accept the conditions to access its files and content.
Бұл репозиторийге қолжетімділік өтінім бойынша беріледі. Өзіңіз туралы және деректерді қалай қолданатыңыз туралы жазыңыз — өтінімді TilQazyna командасы қарайды. · Доступ к репозиторию выдаётся по заявке. Расскажите о себе и о том, как собираетесь использовать данные — заявку рассматривает команда TilQazyna. · Access to this repository is granted on request. Tell us who you are and how you plan to use the material; the TilQazyna team reviews each application.
Log in or Sign Up to review the conditions and access this dataset content.
kazakh-terms-50k
Морфемалық сегментациясы бар қазақ терминдері · Казахские термины с морфемной сегментацией · Kazakh terms with morpheme segmentation
Қазақша
kazakh-terms-50k — 50,000 қазақ термині мен олардың морфемалық сегментациясын біріктіретін 20.1 МБ деректер репозиторийі. Материалда ереже арқылы және LLM көмегімен алынған талдаулар, модель болжамдары мен қолмен түзетілген жазбалар бар.
Деректер құрамы
Репозиторий біртекті Hugging Face конфигіне жиналмаған; зерттеу барысындағы CSV, JSONL, XLSX, JSON және мәтін файлдары бастапқы атауларымен сақталған.
| Материал | Файлдар |
|---|---|
| Оқыту бөлігі | train_data.csv, train_data.jsonl |
| Сынақ бөлігі | test_data.csv, test_data.jsonl, test2.csv |
| Таңбаланған терминдер | 8k_labeled_terms.csv, correct_500.csv |
| Сегментация | Arman_segments_labeled_morpheme_without_analysis.json, Bakytzhan_segments_labeled_morpheme_with_analysis.json |
| Болжамдар мен нәтижелер | 1k_results.csv, Bakytzhan_kazakh_morphology_test_predictions.csv |
Файлдардың бағандары мен қалыптары әртүрлі болуы мүмкін. Эксперимент алдында қолданылатын файлдың схемасын тексеру қажет.
Қалай жүктейді
import json
from huggingface_hub import hf_hub_download
path = hf_hub_download(
repo_id="TilQazyna/kazakh-terms-50k",
filename="train_data.jsonl",
repo_type="dataset",
)
with open(path) as stream:
record = json.loads(next(stream))
print(record)
Код оқыту JSONL файлын жүктеп, алғашқы жазбаны схема тексеруге шығарады.
Қолжетімділік
Карточка мен файлдар тізімі ашық. Нақты файлдарды алу үшін репозиторийдегі «Request access» батырмасы арқылы өтінім беріледі; оны TilQazyna командасы тексереді.
Байланысты репозиторийлер
Бұл материал Til-Terminology жинағына дерек береді. Онымен жұмыс істейтін модельдер — kazakh-terms-gpt және kazakh-terms-bilstm-crf.
Русский
kazakh-terms-50k — репозиторий данных объёмом 20.1 МБ с 50,000 казахских терминов и их морфемной сегментацией. В материалах собраны результаты правил и LLM, предсказания моделей и ручные исправления.
Что внутри
Файлы не сведены в единый конфиг Hugging Face: исследовательские материалы сохранены в исходных форматах CSV, JSONL, XLSX, JSON и обычного текста.
| Материал | Файлы |
|---|---|
| Обучающая часть | train_data.csv, train_data.jsonl |
| Тестовая часть | test_data.csv, test_data.jsonl, test2.csv |
| Размеченные термины | 8k_labeled_terms.csv, correct_500.csv |
| Сегментация | Arman_segments_labeled_morpheme_without_analysis.json, Bakytzhan_segments_labeled_morpheme_with_analysis.json |
| Предсказания и результаты | 1k_results.csv, Bakytzhan_kazakh_morphology_test_predictions.csv |
Схемы и форматы файлов могут различаться. Перед экспериментом нужно проверить поля выбранного источника.
Как загрузить
import json
from huggingface_hub import hf_hub_download
path = hf_hub_download(
repo_id="TilQazyna/kazakh-terms-50k",
filename="train_data.jsonl",
repo_type="dataset",
)
with open(path) as stream:
record = json.loads(next(stream))
print(record)
Код скачивает обучающий JSONL и выводит первую запись для проверки схемы.
Доступ
Карточка и перечень содержимого видны всем. Файлы становятся доступны после одобрения заявки «Request access» командой TilQazyna.
Связанные репозитории
Материалы поступают в Til-Terminology. С ними связаны модели kazakh-terms-gpt и kazakh-terms-bilstm-crf.
English
kazakh-terms-50k is a 20.1 MB data repository containing 50,000 Kazakh terms with morpheme-segmentation material. It brings together rule-based and LLM analyses, model predictions, and manual corrections.
Data contents
The files are not consolidated into a single Hugging Face configuration. Research artifacts remain in their original CSV, JSONL, XLSX, JSON, and plain-text formats.
| Material | Files |
|---|---|
| Training portion | train_data.csv, train_data.jsonl |
| Test portion | test_data.csv, test_data.jsonl, test2.csv |
| Labeled terms | 8k_labeled_terms.csv, correct_500.csv |
| Segmentation | Arman_segments_labeled_morpheme_without_analysis.json, Bakytzhan_segments_labeled_morpheme_with_analysis.json |
| Predictions and results | 1k_results.csv, Bakytzhan_kazakh_morphology_test_predictions.csv |
Schemas and file formats may differ across artifacts. Inspect the fields of the selected source before using it in an experiment.
How to download
import json
from huggingface_hub import hf_hub_download
path = hf_hub_download(
repo_id="TilQazyna/kazakh-terms-50k",
filename="train_data.jsonl",
repo_type="dataset",
)
with open(path) as stream:
record = json.loads(next(stream))
print(record)
The snippet downloads the training JSONL and prints its first record for schema inspection.
Access
The card and repository file list are public. File downloads are enabled once the TilQazyna team approves the “Request access” form.
Related repositories
This material contributes to Til-Terminology. Models connected to it are kazakh-terms-gpt and kazakh-terms-bilstm-crf.
Лицензия · License: apache-2.0 · TilQazyna
- Downloads last month
- 3