Datasets:
Chuvash ASR Dataset
Датасет для автоматического распознавания речи (ASR) на чувашском языке — объединённый корпус, на котором обучалась ASR-модель ChuvashAsr.
Три открытых чувашских речевых корпуса были приведены к единому виду
(16 kHz, mono, PCM_16 WAV), размечены полем source и разбиты на разделы
train / val / test. Всего ≈49.5 часов речи и 37 381 запись.
Разделы (splits)
| split | примеров | длительность | источники |
|---|---|---|---|
train |
34 251 | ~45.9 ч | cv, alexantonov, ftyers |
val |
1 242 | ~1.67 ч | cv |
test |
1 288 | ~1.91 ч | cv |
| всего | 36 781 | ~49.5 ч |
Валидация и тест собраны исключительно из Common Voice (cv), чтобы оценка
проводилась на независимых, вручную проверенных записях.
Источники
| source | примеров | длительность | лицензия | описание |
|---|---|---|---|---|
alexantonov |
29 860 | 38.73 ч | CC0-1.0 | alexantonov/chuvash_voice — Chuvash Voice, основной объём train |
cv |
3 986 | 5.57 ч | CC0-1.0 | Mozilla Common Voice 25.0 (cv) — часть в train, полностью val и test |
ftyers |
2 935 | 5.17 ч | CC BY-SA 4.0 | Chuvash TTS из Turkic_TTS (F. M. Tyers) |
Поля
| поле | тип | описание |
|---|---|---|
audio |
Audio(16 kHz) |
аудиозапись, mono |
text |
string |
транскрипция на чувашском |
duration |
float64 |
длительность записи, сек |
source |
string |
источник: cv / alexantonov / ftyers |
id |
string |
уникальный идентификатор, формат {source}-{file_id} |
Всё аудио перекодировано в единый формат: 16 kHz, 1 канал, PCM_16 WAV.
Использование
from datasets import load_dataset
ds = load_dataset("SpeechCollector/ChuvashAsrDataset")
print(ds)
sample = ds["train"][0]
print(sample["text"])
print(sample["audio"]["sampling_rate"], len(sample["audio"]["array"]))
Отфильтровать по источнику:
cv_only = ds["train"].filter(lambda x: x["source"] == "cv")
Потоковая загрузка без скачивания целиком:
stream = load_dataset("SpeechCollector/ChuvashAsrDataset", split="train", streaming=True)
for ex in stream:
print(ex["id"], ex["text"])
break
Обработка данных
- Транскрипции взяты из исходных корпусов; нормализация текста (регистр, пунктуация, сокращения) не применялась — при необходимости выполните её под свою задачу.
- Разбиение train/val/test зафиксировано;
⚖️ Лицензии
Датасет наследует лицензии исходных корпусов:
- Common Voice (
cv) — CC0-1.0 alexantonov/chuvash_voice— CC0-1.0- Chuvash TTS / Turkic_TTS (
ftyers) — CC BY-SA 4.0
При использовании соблюдайте условия соответствующих источников. Записи с
лицензией CC BY-SA 4.0 (source == "ftyers") требуют указания авторства и
распространения производных на тех же условиях.
- Downloads last month
- 17