metadata
dataset_info:
features:
- name: title
dtype: string
- name: text
dtype: string
splits:
- name: train
num_bytes: 5132779656
num_examples: 1643471
download_size: 2036024004
dataset_size: 5132779656
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
license: apache-2.0
language:
- th
size_categories:
- 1M<n<10M
task_categories:
- text-generation
Dataset mOSCAR Thai Cleaned
ชุดข้อมูลนี้เป็นชุดข้อมูลภาษาไทยขนาดใหญ่ที่ผ่านการทำความสะอาดแล้ว เหมาะสำหรับงานประมวลผลภาษาธรรมชาติ (NLP) เช่น การฝึกสอนโมเดลภาษา การสรุปผล การแปลภาษา ฯลฯ
รายละเอียดชุดข้อมูล
- จำนวนตัวอย่าง: 1,643,471 ตัวอย่าง (train)
- ขนาดข้อมูล: 5,132,779,656 ไบต์
- ฟีเจอร์:
title(string): หัวข้อหรือข้อความแรกของแต่ละตัวอย่างtext(string): เนื้อหาข้อความภาษาไทยที่ผ่านการคัดกรองและทำความสะอาดแล้ว
- ภาษา: ไทย (
th) - ลิขสิทธิ์: Apache-2.0
- ขนาด: 1M < n < 10M
แหล่งที่มา
- ข้อมูลต้นทางมาจาก https://huggingface.co/datasets/oscar-corpus/mOSCAR mOSCAR Thai (open source) และผ่านกระบวนการคัดกรอง/ทำความสะอาดโดยผู้จัดทำ
- อาจ!มีข้อมูลส่วนบุคคลหรือข้อมูลอ่อนไหวในชุดข้อมูลนี้
วิธีใช้งาน
เหมาะสำหรับงานวิจัยและพัฒนาโมเดลภาษาไทย เช่น
- Pretraining/Finetuning โมเดลภาษา
- งาน Text Classification, Summarization, Translation ฯลฯ
โครงสร้างข้อมูล
แต่ละตัวอย่างประกอบด้วย:
title: ข้อความแรกของแต่ละกลุ่ม (หรือหัวข้อ)text: ข้อความภาษาไทยที่รวมและทำความสะอาดแล้ว
การสร้างชุดข้อมูล
- ใช้สคริปต์ Python สำหรับคัดกรองข้อความที่ไม่เหมาะสม, ข้อความสแปม, ข้อความซ้ำ ฯลฯ
- ตัดข้อความที่สั้นเกินไปหรือไม่ใช่ภาษาไทยออก
- ไม่มีการใส่ annotation เพิ่มเติม
ความเสี่ยงและข้อจำกัด
- อาจมีอคติหรือข้อผิดพลาดจากข้อมูลต้นทาง
- ข้อมูลนี้เหมาะสำหรับงานวิจัย ไม่ควรนำไปใช้ในเชิงพาณิชย์โดยตรงโดยไม่ตรวจสอบ
การอ้างอิง
- หากนำไปใช้งาน กรุณาอ้างอิงชุดข้อมูลนี้และลิงก์ไปยังหน้า Hugging Face Dataset
@article{futeral2024moscar,
title={mOSCAR: A Large-scale Multilingual and Multimodal Document-level Corpus},
author={Futeral, Matthieu and Zebaze, Armel and Suarez, Pedro Ortiz and Abadji, Julien and Lacroix, R{\'e}mi and Schmid, Cordelia and Bawden, Rachel and Sagot, Beno{\^\i}t},
journal={arXiv preprint arXiv:2406.08707},
year={2024}
}
ผู้จัดทำและติดต่อ
- ผู้จัดทำ: ZombitX64
- ติดต่อ: JonusNattapong
หากต้องการรายละเอียดเพิ่มเติมหรือมีข้อเสนอแนะ กรุณาติดต่อผู้จัดทำ