huyleit/vietnamese-social-moderation

Moderation Dataset for Vietnamese Social Media (MODERATION v1.1)

Vietnamese Social Media Content Moderation Dataset (4 classes: CLEAN, PROFANITY_VENTING, HATE_SPEECH, SELF_HARM_CRISIS)

1. Tổng Quan & Phân Bố (Dataset Summary)

• Tổng số mẫu: 16,270 mẫu
• Tập Train (70%): 11,389 mẫu
• Tập Val (15%): 2,440 mẫu
• Tập Test (15%): 2,441 mẫu

Tập dữ liệu kiểm duyệt nội dung (Content Moderation & Safety) mạng xã hội tiếng Việt gồm 4 lớp phân loại nguy cơ. Dữ liệu phiên bản v1.1 được xây dựng bằng cách hợp nhất (merge) các nguồn nghiên cứu mở uy tín:

1. ViHSD (UIT-ViHSD): Tập dữ liệu phát hiện ngôn từ thù ghét trên mạng xã hội tiếng Việt từ Đại học Công nghệ Thông tin (ĐHQG-HCM) cung cấp các nhãn Clean, Profanity/Offensive, Hate Speech.
2. Mental Health / Suicide Ideation Dataset: Bộ dữ liệu khủng hoảng tâm lý/tự hại từ Reddit r/SuicideWatch & r/depression được dịch và bản địa hóa an toàn sang tiếng Việt để xây dựng lớp SELF_HARM_CRISIS.
3. Kỹ thuật Cân Bằng (v1.1): Đã thực hiện Undersampling lớp CLEAN (về ~8,000 mẫu) nhằm triệt tiêu thiên kiến đa số và tối ưu Macro F1 cho các nhãn nhạy cảm.

Taxonomy (4 Lớp Kiểm Duyệt):

Label ID	Tên Nhãn	Ý Nghĩa / Nguy Cơ
0	CLEAN	Nội dung an toàn, thảo luận bình thường
1	PROFANITY_VENTING	Từ ngữ tục tĩu nhưng mang tính xả stress/than vãn cá nhân, không công kích ai
2	HATE_SPEECH	Ngôn từ thù ghét, xúc phạm danh dự, phân biệt vùng miền/giới tính/tôn giáo
3	SELF_HARM_CRISIS	Nội dung có dấu hiệu khủng hoảng tâm lý, tự hại, tiêu cực nghiêm trọng

2. Cấu Trúc Bản Ghi (Schema Format)

Mỗi mẫu dữ liệu được lưu dưới dạng JSON object với các trường:

{
  "text": "văn bản đã được chuẩn hóa hoặc tách từ",
  "raw_text": "văn bản gốc tiếng Việt",
  "label": 0,
  "label_name": "CLEAN",
  "source": "tên nguồn dữ liệu"
}

3. Cách Tải & Sử Dụng với datasets (Hugging Face)

from datasets import load_dataset

# Tải dataset trực tiếp
dataset = load_dataset("huyleit/vietnamese-social-moderation")

print(dataset["train"][0])

Hoặc đọc trực tiếp từ Pandas:

import pandas as pd

df_train = pd.read_json("train.json")
df_test = pd.read_json("test.json")
print("Train samples:", len(df_train))

4. Nguồn Dữ Liệu Gốc & Trích Dẫn (Upstream Sources & Citations)

Tập dữ liệu này được xây dựng và kế thừa từ các công trình nghiên cứu mở sau đây. Chúng tôi xin chân thành cảm ơn các tác giả:

1. UIT-ViHSD (Vietnamese Hate Speech Detection):

@article{luu2021vihsd,
  title   = {Constructing a Vietnamese Dataset for Advanced Hate Speech Detection on Social Media},
  author  = {Son T. Luu and Kiet Van Nguyen and Ngan Luu-Thuy Nguyen},
  journal = {ACM Transactions on Asian and Low-Resource Language Information Processing},
  year    = {2021}
}

2. Mental Health Text Classification:

@misc{ourafla2023mentalhealth,
  title        = {Mental Health Text Classification Dataset},
  author       = {Ourafla},
  year         = {2023},
  howpublished = {\url{https://huggingface.co/datasets/ourafla/Mental-Health_Text-Classification_Dataset}}
}