sw0920/korean-qa-augmented

Korean QA Augmented

한국어 교육 질문·답변(Q&A)의 질문 표현을 언어 모델로 바꾸어 만든 소규모 데이터 증강 실습용 데이터셋입니다. 원본 Q&A 10개와 증강 Q&A 20개, 총 30개 레코드로 구성됩니다.

• 데이터셋: sw0920/korean-qa-augmented
• 원천 데이터셋: neuralfoundry-coder/aihub-korean-education-instruct-sample
• 증강 모델: Qwen/Qwen2.5-0.5B-Instruct
• 생성 노트북: 1102_Dataset_Augmentation_2.ipynb

질문을 재표현하면서 원본 답변을 그대로 연결하는 방식입니다. 의미 보존은 생성 목표이며, 모든 증강 결과에서 보장되지는 않습니다. 현재 데이터에는 의미가 달라진 질문과 중복이 포함되어 있습니다.

데이터 구성

아래 통계는 노트북과 함께 제공된 korean_qa_augmented.jsonl을 기준으로 합니다.

항목	수량
원본 Q&A (original)	10
증강 Q&A (augmented)	20
전체 레코드	30
고유 원본 ID (source_id)	10
서로 다른 질문 문자열 (instruction)	27

원본 1개마다 증강 2개가 연결되어 있어, 같은 source_id를 가진 레코드는 3개입니다. 별도의 검증·평가 분할은 만들지 않았으며, 로딩 편의를 위해 전체 파일을 train으로 지정합니다.

원본 10개의 교과 분포는 수학 3개, 국어 3개, 사회 2개, 과학 1개, 기술가정 1개입니다. 초등학교 4·6학년, 중학교 2·3학년, 고등학교 1학년 문항을 포함합니다. 교과와 학년은 질문 본문에 들어 있으며 별도 필드로 저장하지 않았습니다.

데이터 형식

UTF-8 JSONL 형식으로, 각 줄에 JSON 객체 하나를 저장합니다.

필드	자료형	설명
source_id	문자열	원천 데이터셋의 문항 ID. 원본과 해당 증강 레코드를 연결하는 키
instruction	문자열	교과 안내, 학년, [문제]를 포함한 질문
output	문자열	원본 답변. 정답, 관련 내용, 학습 목표 등이 포함될 수 있음
type	문자열	원본은 original, 모델 생성 질문은 augmented

다음은 실제 원본 레코드입니다.

{
  "source_id": "curriculum_28_10a88f06",
  "instruction": "다음 국어 문제에 답해주세요.\n\n[학년] 고등학교 1학년\n[문제]\n희극이란 무엇인가요?",
  "output": "정답: 희극: 일상생활의 웃음을 그린 작품으로, 유머와 풍자가 포함됩니다.\n\n[관련 내용]\n희극: 일상생활의 웃음을 그린 작품으로, 유머와 풍자가 포함됩니다.",
  "type": "original"
}

위 예제는 읽기 쉽도록 여러 줄로 표시했습니다. 실제 JSONL 파일에서는 레코드 하나가 한 줄을 차지합니다. input 필드는 없습니다.

생성 과정

1. 원천 데이터셋의 train 분할을 불러옵니다.
2. category == "curriculum", subcategory == "qa"이고 metadata.subject가 있는 문항을 선택합니다.
3. shuffle(seed=42)를 적용한 뒤 최대 15개를 추출합니다.
4. 대화에서 첫 번째 user 메시지를 질문으로, 첫 번째 assistant 메시지를 답변으로 가져옵니다.
5. [문제] 이후의 텍스트에 문맥 의존 표현이 있거나 길이가 10자 미만인 문항을 제외합니다. 실행 기록에서는 15개 중 14개가 남았습니다.
6. 남은 문항 중 앞의 10개를 최종 원본으로 사용합니다.
7. Qwen 모델에 [문제] 부분을 전달하고, 의미와 정답을 유지하는 질문 표현 2개를 요청합니다.
8. 생성 결과에서 1.·2. 또는 1)·2)로 시작하는 줄을 최대 2개 추출합니다. 원본의 교과 안내와 학년을 다시 붙이고 원본 답변을 그대로 연결합니다.
9. 원본과 증강 레코드를 합쳐 korean_qa_augmented.jsonl로 저장합니다.

문맥 의존 표현 필터는 이 사전, 이 글, 위 글, 다음 글, 다음 그림, 아래 그림, 위 내용, 다음 자료, 이것, 그것을 정규식으로 검사합니다. 이 규칙만으로 모든 문맥 의존 질문을 제거할 수는 없습니다.

생성 설정은 max_new_tokens=180, do_sample=False이며, 모델의 채팅 템플릿을 사용합니다. CUDA 사용 시 float16, CPU 사용 시 float32로 모델을 로드합니다. 노트북 실행 기록에서는 CPU를 사용했습니다. 원천 데이터와 라이브러리 버전을 고정하지 않았으므로 재실행 결과가 기존 파일과 완전히 같다고 보장하지 않습니다.

사용 방법

Hugging Face Datasets의 로딩 안내를 기준으로 작성한 예제입니다.

pip install datasets

Hugging Face에서 불러오기

저장소 루트에 korean_qa_augmented.jsonl이 있는 구성을 기준으로 합니다.

from datasets import load_dataset

qa = load_dataset(
    "sw0920/korean-qa-augmented",
    data_files={"train": "korean_qa_augmented.jsonl"},
    split="train",
)

print(len(qa))
print(qa[0]["instruction"])
print(qa[0]["output"])

로컬 파일 불러오기

from datasets import load_dataset

qa = load_dataset(
    "json",
    data_files="korean_qa_augmented.jsonl",
    split="train",
)

모델 학습에 사용할 때는 instruction을 입력으로, output을 목표 답변으로 사용합니다. source_id와 type은 출처 추적과 원본·증강 비교에 활용할 수 있습니다.

품질과 활용 범위

이 데이터셋은 질문 재표현과 JSONL 저장 과정을 살펴보는 교육·실험용 자료입니다. 노트북에는 생성 결과의 의미 일치 여부를 자동 평가하거나, 검수 결과에 따라 문항을 제거하는 단계가 없습니다. 학습 성능 개선도 측정하지 않았습니다.

실제 파일에서 확인되는 한계는 다음과 같습니다.

• 의미 변경: 희극이란 무엇인가요?가 운동이나 휴대폰 사용에 관한 문장으로 바뀐 사례가 있습니다. 답변은 원본 그대로이므로 질문과 답변이 맞지 않습니다.
• 질문 목적 누락: 명제의 역을 묻는 질문이 단순한 진술문으로 바뀐 사례가 있습니다.
• 중복: 과학 문항의 두 증강 질문이 같고, 교환 거래 문항은 두 증강 질문이 원본과 같습니다. 전체 30개 중 고유 질문 문자열은 27개입니다.
• 문맥·기호 손실: 보기 없이 ㉢을 묻는 원본 문항이 남아 있고, 증강 과정에서 해당 기호가 ulle로 바뀐 사례가 있습니다.
• 원본 오류 가능성: 나라를 묻는 질문에 도시 이름이 답변으로 포함된 사례처럼 원본 질문과 답변도 검토가 필요합니다.
• 작은 규모: 원본은 10개이며, 교과·학년별 대표성을 갖춘 표본으로 설계하지 않았습니다.

실제 학습에 활용하려면 의미가 바뀐 문항, 질문이 아닌 문장, 중복, 문맥이 부족한 문항을 검수·수정하거나 제외해야 합니다.

평가용 데이터를 나눌 때는 source_id 단위로 분리해야 합니다. 같은 원본에서 나온 질문이 학습과 평가에 함께 들어가면, 성능이 실제보다 높게 측정될 수 있습니다.

출처 및 이용 조건

원천 데이터셋과 생성 모델은 위 링크에서 확인할 수 있습니다. 이 README 작성 시 원천 데이터의 라이선스와 재배포 조건은 확인하지 못했으므로, 별도의 라이선스를 임의로 지정하지 않았습니다. 사용·재배포 전에는 원천 데이터의 이용 조건과 생성 모델의 라이선스를 확인해야 합니다.

이 문서의 통계와 생성 과정은 제공된 로컬 JSONL 파일 및 노트북을 기준으로 작성했습니다. Hugging Face 저장소의 현재 파일 목록과 원격 로딩 동작은 확인하지 못했습니다.