Mun2/korean_qa_augmented_test

Korean Educational QA Augmentation

한국어 국어 교육 Q&A를 대상으로 LLM 기반 질문 재표현(paraphrasing)을 수행한 소규모 데이터셋입니다. 원본 질문의 의미와 정답을 유지하는 것을 목표로, 각 원본 질문당 새로운 표현 2개를 생성했습니다. 부트캠프에서 진행한 데이터 증강 수업으로 만들었습니다.

Dataset Summary

항목	값
언어	한국어 (ko)
분야	국어 교육, 질문 응답
원본 출처	neuralfoundry-coder/aihub-korean-education-instruct-sample
증강 모델	Qwen/Qwen2.5-0.5B-Instruct
증강 방법	의미 보존 질문 재표현 (question paraphrasing)
원본 데이터	10개
증강 데이터	20개
전체	30개
파일 형식	JSON Lines (.jsonl)
제공 파일	korean_qa_augmented.jsonl
데이터 분할	별도 train/validation/test 분할 없음

Dataset Creation

데이터 생성 과정은 함께 작성된 Dataset_Augmentation_2_ipynb의_사본.ipynb의 코드 흐름을 기반으로 합니다.

1. Hugging Face에서 neuralfoundry-coder/aihub-korean-education-instruct-sample을 로드합니다.
2. category == "curriculum", subcategory == "qa", metadata.subject == "국어" 조건으로 데이터를 필터링합니다.
3. 시드 42로 셔플하여 최대 15개를 선택하고, 사용자 질문과 어시스턴트 답변을 추출합니다.
4. 이 글, 위 글, 다음 그림과 같은 문맥 의존 표현을 포함하거나 문제 텍스트가 너무 짧은 질문을 규칙 기반으로 제외합니다.
5. 필터링 결과 중 최대 10개를 최종 원본 Q&A로 선정합니다.
6. Qwen2.5-0.5B-Instruct에 각 질문의 [문제] 부분을 입력하고, 의미와 정답을 바꾸지 않도록 요청하여 재표현 질문 2개를 생성합니다.
7. 학년 및 안내 문구를 유지한 채 [문제] 영역만 교체하고, 기존 답변을 그대로 연결합니다.
8. 원본 및 증강 Q&A를 JSONL 파일로 저장합니다.

Generation Settings

설정	값
Model	Qwen/Qwen2.5-0.5B-Instruct
Decoding	Greedy (do_sample=False)
max_new_tokens	180
증강 수	원본 질문당 최대 2개 (실제 파일에서는 각 2개)
Answer modification	없음 (원본 output 재사용)

Data Structure

필드	타입	설명
source_id	string	원본 레코드의 식별자. 원본과 파생 데이터가 같은 값을 공유
instruction	string	학년 정보와 질문을 포함한 사용자 입력
output	string	정답, 관련 내용 및 학습 목표 등을 포함한 응답
type	string	original 또는 augmented

Example

아래 예시는 실제 파일의 첫 번째 원본 레코드와 해당 증강 레코드 중 하나입니다.

Original

{
  "source_id": "curriculum_28_d0e4d0e2",
  "instruction": "다음 국어 문제에 답해주세요.\n\n[학년] 고등학교 1학년\n[문제]\n비판적 듣기란 무엇인가요?",
  "output": "정답: 비판적 듣기는 듣는 내용에 대해 의문을 가지고, 그 내용을 잘 판단하는 것을 말합니다.\n\n[관련 내용]\n- 비판적 듣기: 듣는 내용에 대해 의문을 가지며, 합리적인 판단을 내려야 합니다.\n\n[학습 목표]\n[10국01-01] 개인이나 집단에 따라 듣기와 말하기의 방법이 다양함을 이해하고 듣기·말하기 활동을 한다",
  "type": "original"
}

Augmented

{
  "source_id": "curriculum_28_d0e4d0e2",
  "instruction": "다음 국어 문제에 답해주세요.\n\n[학년] 고등학교 1학년\n[문제]\n비판적인 듣기는 무엇인가요?",
  "output": "정답: 비판적 듣기는 듣는 내용에 대해 의문을 가지고, 그 내용을 잘 판단하는 것을 말합니다.\n\n[관련 내용]\n- 비판적 듣기: 듣는 내용에 대해 의문을 가지며, 합리적인 판단을 내려야 합니다.\n\n[학습 목표]\n[10국01-01] 개인이나 집단에 따라 듣기와 말하기의 방법이 다양함을 이해하고 듣기·말하기 활동을 한다",
  "type": "augmented"
}

Usage

레포지토리에 README.md와 korean_qa_augmented.jsonl을 함께 업로드한 뒤 사용합니다.

from datasets import load_dataset

# YOUR_USERNAME/YOUR_DATASET_NAME을 실제 저장소 ID로 변경하세요.
dataset = load_dataset("YOUR_USERNAME/YOUR_DATASET_NAME", split="train")

print(dataset)
print(dataset[0])

로컬 JSONL 파일을 직접 로드할 수도 있습니다.

from datasets import load_dataset

dataset = load_dataset(
    "json",
    data_files="korean_qa_augmented.jsonl",
    split="train"
)

original = dataset.filter(lambda x: x["type"] == "original")
augmented = dataset.filter(lambda x: x["type"] == "augmented")

print("Original:", len(original))  # 10
print("Augmented:", len(augmented))  # 20

Intended Uses

• 한국어 교육 질의응답 및 instruction-tuning 실험
• 질문 패러프레이징 기반 데이터 증강 예제
• 원본 질문과 증강 질문 간 응답 일관성 평가
• 소규모 교육 데이터셋 처리 파이프라인의 재현 및 실습

Limitations and Quality Considerations

• 소규모 샘플: 총 30개 레코드(원본 10개 출처)로, 일반적인 국어 교육 능력을 대표하지 않습니다.
• 자동 생성: 증강 문장은 모델이 자동 생성했습니다. 질문의 의미 보존, 자연스러움, 정답의 적합성에 대한 전문가 검수는 노트북에서 확인되지 않습니다.
• 응답 재사용: 증강 질문의 output은 별도로 생성하거나 검증한 정답이 아니라 원본 정답을 그대로 사용합니다.
• 중복 표현: 실제 파일에 동일한 instruction 문자열의 중복이 3건 있습니다(총 30행 중 고유 instruction 27개). 모델 학습 전 중복 제거 또는 검토를 권장합니다.
• 데이터 누수 주의: 동일한 source_id를 공유하는 원본·증강 문장이 학습셋과 평가셋에 나뉘지 않도록 source_id 단위로 분할하세요.
• 라이선스: 원천 데이터 및 가공 결과물의 공개·상업적 사용 가능 여부를 별도로 확인해야 합니다.

Sources and Acknowledgements

• Hugging Face: AI Hub Korean Education Instruct Sample
• AI Hub 원천 데이터 안내
• Qwen2.5-0.5B-Instruct

본 데이터는 위 Hugging Face 샘플에서 국어 교육 Q&A를 선별한 후 Qwen 모델로 질문을 증강하여 구성했습니다. 원천 데이터의 출처와 이용 조건은 위 링크를 참조하세요.