doannv/viVerbalize

Vietnamese Written-to-Spoken Normalization Dataset

Overview

Bộ dữ liệu chuẩn hóa văn bản tiếng Việt từ miền viết (written domain) sang miền đọc/nói (spoken/readable domain). Tập dữ liệu được thiết kế chuyên biệt cho các bài toán:

• Text Normalization (TN) / Text Verbalization: Chuyển đổi số, ngày tháng, công thức, ký hiệu tiền tệ, từ viết tắt và từ mượn tiếng Anh thành dạng chữ đọc được.
• Tiền xử lý cho Text-to-Speech (TTS): Làm sạch và chuẩn hóa văn bản đầu vào trước khi tổng hợp âm thanh.
• Hậu xử lý cho ASR (Speech-to-Text): Tạo dữ liệu song ngữ viết – đọc để huấn luyện mô hình khôi phục văn bản viết chuẩn.

Dữ liệu đã qua sàng lọc chất lượng cao: loại bỏ toàn bộ các câu dị biệt hoặc quá dài (độ dài mỗi trường đều nhỏ hơn 500 ký tự) nhằm tối ưu bộ nhớ GPU và độ ổn định khi huấn luyện các mô hình Sequence-to-Sequence (BARTpho, T5, ByT5, mT5,...).

---

Dataset Structure

Data Fields

• raw_sentence (string): Câu gốc thuộc phong cách tin tức, chứa định dạng số, ngày tháng, từ viết tắt hoặc tên riêng.
• normalize (string): Câu sau khi chuẩn hóa thành dạng đọc, có gắn thẻ đánh dấu từ mượn tiếng Anh (ví dụ <en>...</en>).
• normalized_sentence (string): Dạng phát âm tiếng Việt thuần (đã phiên âm hoặc loại bỏ các thẻ đánh dấu), sẵn sàng đưa thẳng vào mô hình âm học TTS.

Data Splits

Dữ liệu được chia theo tỷ lệ 80% (Train) – 10% (Validation) – 10% (Test):

Split	Number of Samples
Train	713,451
Validation	89,181
Test	89,182
Total	891,814

---

Usage Example

Tải và sử dụng trực tiếp qua thư viện datasets:

from datasets import load_dataset

# Tải toàn bộ dataset
dataset = load_dataset("your-username/dataset-name")

# Xem ví dụ từ tập train
sample = dataset["train"][0]
print("Input (Raw):", sample["raw_sentence"])
print("Target (Normalize):", sample["normalize"])
print("Target (Clean Spoken):", sample["normalized_sentence"])