traintogpb commited on
Commit
0d6ddbf
1 Parent(s): f9fb748

chore: fix readme

Browse files
Files changed (1) hide show
  1. README.md +8 -1
README.md CHANGED
@@ -16,7 +16,7 @@ AI Hub의 한-영 번역 관련 데이터셋 8개를 병합한 자료입니다.
16
  - mini-1m: 병합 데이터 10% 사용 (base-10m의 각 세트 내에서 10% 임의 선택), 총 1,041,651개
17
  - tiny-100k: 병합 데이터 1% 사용 (base-10m의 각 세트 내에서 1% 임의 선택), 총 104,165개
18
 
19
- ### Subsets
20
 
21
  활용한 데이터셋 목록은 다음과 같으며, 데이터셋 이름 옆 번호는 aihubshell에서의 datasetkey입니다.
22
 
@@ -26,22 +26,29 @@ AI Hub의 한-영 번역 관련 데이터셋 8개를 병합한 자료입니다.
26
  - 사용 칼럼: '한국어', '영어'
27
  - [한국어-영어 번역 말뭉치(기술과학)](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=124) (124)
28
  - 총 개수: 1,344,631
 
29
  - 사용 칼럼: 'ko', 'en'
30
  - [한국어-영어 번역 말뭉치(사회과학)](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=125) (125)
31
  - 총 개수: 1,361,845
 
32
  - 사용 칼럼: 'ko', 'en'
33
  - [한국어-영어 번역(병렬) 말뭉치](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=126) (126)
34
  - 총 개수: 1,602,418
 
35
  - 사용 칼럼: '원문', '번역문'
36
  - [산업정보 연계 주요국 특허 영-한 데이터](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=563) (563)
37
  - 총 개수: 359,999
 
38
  - 사용 칼럼: 'astrt_cont_kor', 'astrt_cont_eng'
39
  - [일상생활 및 구어체 한-영 번역 병렬 말뭉치 데이터](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71265) (71265)
40
  - 총 개수: 2,700,345
 
41
  - 사용 칼럼: 'ko', 'en'
42
  - [기술과학 분야 한-영 번역 병렬 말뭉치 데이터](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71266) (71266)
43
  - 총 개수: 1,350,162
 
44
  - 사용 칼럼: 'ko', 'en'
45
  - [방송콘텐츠 한국어-영어 번역 말뭉치](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71382) (71382)
46
  - 총 개수: 587,084
 
47
  - 사용 칼럼: '원문', '최종번역문'
 
16
  - mini-1m: 병합 데이터 10% 사용 (base-10m의 각 세트 내에서 10% 임의 선택), 총 1,041,651개
17
  - tiny-100k: 병합 데이터 1% 사용 (base-10m의 각 세트 내에서 1% 임의 선택), 총 104,165개
18
 
19
+ ## Subsets
20
 
21
  활용한 데이터셋 목록은 다음과 같으며, 데이터셋 이름 옆 번호는 aihubshell에서의 datasetkey입니다.
22
 
 
26
  - 사용 칼럼: '한국어', '영어'
27
  - [한국어-영어 번역 말뭉치(기술과학)](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=124) (124)
28
  - 총 개수: 1,344,631
29
+ - 중복 제거 후 개수: 1,344,631
30
  - 사용 칼럼: 'ko', 'en'
31
  - [한국어-영어 번역 말뭉치(사회과학)](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=125) (125)
32
  - 총 개수: 1,361,845
33
+ - 중복 제거 후 개수: 1,361,825
34
  - 사용 칼럼: 'ko', 'en'
35
  - [한국어-영어 번역(병렬) 말뭉치](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=126) (126)
36
  - 총 개수: 1,602,418
37
+ - 중복 제거 후 개수: 1,599,924
38
  - 사용 칼럼: '원문', '번역문'
39
  - [산업정보 연계 주요국 특허 영-한 데이터](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=563) (563)
40
  - 총 개수: 359,999
41
+ - 중복 제거 후 개수: 358,424
42
  - 사용 칼럼: 'astrt_cont_kor', 'astrt_cont_eng'
43
  - [일상생활 및 구어체 한-영 번역 병렬 말뭉치 데이터](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71265) (71265)
44
  - 총 개수: 2,700,345
45
+ - 중복 제거 후 개수: 2,486,058
46
  - 사용 칼럼: 'ko', 'en'
47
  - [기술과학 분야 한-영 번역 병렬 말뭉치 데이터](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71266) (71266)
48
  - 총 개수: 1,350,162
49
+ - 중복 제거 후 개수: 1,328,987
50
  - 사용 칼럼: 'ko', 'en'
51
  - [방송콘텐츠 한국어-영어 번역 말뭉치](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71382) (71382)
52
  - 총 개수: 587,084
53
+ - 중복 제거 후 개수: 586,660
54
  - 사용 칼럼: '원문', '최종번역문'