Update README.md
b96cea6
AI Stage MRC task
Version Info
v4.1.1
- v3.2.3데이터 (train_dataset_aug)에 punctuation추가한 데이터셋, both train and validation
- train_aug_punctuation에 있음
- v4.1.0의 오류 해결
v4.1.0
- v3.2.2데이터(train_dataset_aug)에 punctuation추가한 데이터셋, both train and validation
- train_data_aug에 있음
- answers 잘못 labeling된 데이터
v4.0.1
- punctuation추가한 데이터셋, both train and validation
- answers type 정상
v4.0.0
- punctuation추가한 데이터셋, only train
- answers type 오류
v3.2.3
v3.2.2에서 잘못된 [ANSWER] 위치 수정
v3.2.2
v3.2.1에서 special token([TITLE]) 제거
v3.2.1
v3.2.0에서 special token([ANSWER]) 추가
v3.2.0
v1.3.1에서 special tokens([TITLE], #) 추가
v3.1.0
v3.0.0에서 Question 뒤에 NER 모델로 찾은 Entity 단어 추가
v3.0.0
v1.0.0에서 태욱님 answer, sentence split 토큰 추가
v2.1.1
v2.1.0에서 v3.2.3의 augmentation 데이터와 concat- bt_context_extractive_final폴더에 train, validation사용
v2.1.0
- extractive모델을 위한 pororo context augmentation
- context내에 answer가 유일한 데이터만 증강, answer위치 조정 완료
- context_bt_for_extracive폴더에 train, validation 추가
v2.0.1
v2.0.0에서 context내 answer가 손상된 데이터 제거
v2.0.0
- 채은님 context backtranslation 추가한 데이터셋
v1.6.4
v1.6.3에서 train_dataset_curri 폴더 내 구성 변경
train_level_1 & train_level_2-> train_level_1train_level_3 -> train_level_2train_level_#을 모두 합친 train_total
v1.6.3
v1.6.2에서 train_dataset_curri 폴더 추가, 샘플별 스코어링하여 level0 ~ level3으로 구성- 사용 데이터셋 :
train, train_perm01, train_perm02, train_perm04, train_mask_2, train_hard_mask, pororo_aug_ver2_len_context_easy, pororo_aug_ver2_len_context_normal, pororo_aug_ver2_len_context_hard
v1.6.2
v1.6.1에서 train_dataset 폴더에 train_mask_2, train_hard_mask 데이터 추가
v1.6.1
v1.6.0에서 train_dataset 폴더에
train_pororo_aug_ver2의 context length 기준으로 curriculum-learning 데이터셋 추가
- easy :
len < 673
- normal :
673 <= len < 935
- hard :
935 <= len
v1.4.1의 업데이트 데이터셋 반영
v1.6.0
v1.3.2에서 train_dataset 폴더에 permutation ratio 0.1, 0.2, 0.4의 sentence permutation 데이터 추가
v1.5.0
v1.4.1에서 헷갈리는 단어, 날짜 정보 Masking datsets 추가
v1.4.4
v1.4.1에서 증강 데이터(train, valid pororo ver1 포함) concat, shuffled concat 추가
v1.4.3
v1.4.1에서 증강 데이터(train, valid pororo ver1 제외) concat, shuffled concat 추가
v1.4.2
v1.4.1에서 Question 뒤에 NER 모델로 찾은 Entity 단어 추가
v1.4.1
- 대웅님께서 공유해주신 질문유형을 반영하여 기존의 질문을 7개에서 45개로 늘려 pororo aug 적용하여 pororo aug ver2 추가
v1.3.2
- 'v1.3.1'에 'train_dataset_aeda'에 preprocessing 이 누락 되어 처리
v1.3.1
v.1.3.0에 train_dataset_aug 폴더 추가(question에 대한 조사 제거, Back Translation, AEDA, pororo aug ver1을 concatenate함)
v1.3.0
v1.2.0에서 wiki_documents.json을 pororo aug를 활용해 50,531건의 증강 데이터 추가
v1.2.0
v1.1.0에서 question에 대한 조사 제거, Back Translation, AEDA Augmentation 추가(pororo aug엔 적용하지 않음)
v1.1.0
v1.0.0에서 Question 뒤에 NER 모델로 찾은 Entity 단어 추가
v1.0.0
v0.2.2
train_dataset의 train, validation 셋에서 문제 및 정답오류 수정
v0.2.1
train_pororo_aug, validation_pororo_aug에도 동일한 summary 추가context_bullet에서 발견된 오류 수정(context와 관련 없는 문장이 생성되는 오류)
v0.2.0
- 대웅님 pororo context summary 추가한 데이터셋
v0.1.1
- 영재님 pororo augmenation 추가한 데이터셋
train_dataset의 train, validation 셋에서 문제 및 정답오류 수정
v0.1.0
- 영재님 pororo augmenation 추가한 데이터셋
v0.0.0
LICENSE
