README.md

metadata

task_categories:
  - translation
language:
  - ko
  - en

장문 번역 데이터만 추출

• gemma 토크나이저 기준으로 영문+한글 토큰 합이 1K 이상인 데이터만 추출
• 데이터 수
  • 1K~2K: 146,957
  • 2K~4K: 11,823
  • 4K~: 2,229
• 한/영 둘 중 한쪽만 중복인 경우는 제거하지 않았습니다.

데이터 출처

• nayohan/aihub-en-ko-translation-12m
• nayohan/instruction_en_ko_translation_1.4m
  • jhflow/orca_ko_en_pair
  • jhflow/platypus_ko_en_pair
  • jhflow/dolly_ko_en_pair
  • heegyu/OIG-small-chip2-ko
  • lemon-mint/en_ko_translation_purified_v0.1
  • squarelike/sharegpt_deepl_ko_translation
  • amphora/parallel-wiki-koen
  • kuotient/gsm8k-ko
  • kuotient/orca-math-word-problems-193k-korean

데이터 출처 분포