traintogpb's picture
Update README.md
b1fccad verified
metadata
license: mit
task_categories:
  - translation
language:
  - ko
  - zh

AI Hub Ko-Zh Translation Dataset (Integrated)

AI Hub의 한-중 번역 관련 데이터셋 10개를 병합한 자료입니다. 병합 시 총 데이터 개수는 5,934,596개이며, 이중 10,000개의 validation set와 2,000개의 test set가 분리되어 모든 데이터 사이즈(large-5.9m, base-1m, small-100k)에서 동일하게 사용됩니다.

  • large-5.9m (train): 병합 데이터 100% 사용; 총 5,922,596개

  • base-1m (train): 병합 데이터 중 1M개 사용; 총 1,000,000개

  • small-100k (train): 병합 데이터 중 100K개 사용; 총 100,000개

Subsets

Name Total Size Chinese Size (Utilized Only) URL Datasetkey (AIHub)
한국어-중국어 번역 말뭉치(기술과학) 1170000 1170000 URL 128
한국어-중국어 번역 말뭉치(사회과학) 1170000 1170000 URL 129
일상생활 및 구어체 한-중, 한-일 번역 병렬 말뭉치 데이터 2700000 1349470 URL 546
전문분야 영-한, 중-한 번역 말뭉치(식품) 1350000 1326837 URL 71262
방송 콘텐츠 한-중, 한-일 번역 병렬 말뭉치 데이터 1487088 367921 URL 71263
발화유형(문어, 구어, 채팅) 별 기계번역 병렬 말뭉치 82002 26989 URL 71411
한국어-다국어 번역 말뭉치(기술과학) 270459 146317 URL 71493
한국어-다국어 번역 말뭉치(기초과학) 270317 84419 URL 71496
한국어-다국어 번역 말뭉치(인문학) 271721 80375 URL 71498
방송콘텐츠 한국어-아시아어 번역 말뭉치 820387 112978 URL 71591
AI 허브 데이터 활용을 위한 기계 번역말뭉치 2653948 212268 URL 71593