HyperCLOVA-X-SEED-MISHULTA-v1

팀 MISHULTA (K-DS 해커톤 참가)의 한국어 추론 강화 파인튜닝 모델입니다. 베이스 모델은 네이버의 HyperCLOVAX-SEED-Think-14B (국내 기업 개발 모델)입니다.

모델 개요

항목	내용
베이스 모델	naver-hyperclovax/HyperCLOVAX-SEED-Think-14B
파라미터	14.8B (dense, 텍스트 전용 가중치)
학습 방법	QLoRA(4bit NF4) SFT → 어댑터 병합(bf16)
LoRA 구성	r=64, α=128, RSLoRA, 7개 모듈(q/k/v/o/gate/up/down_proj), 2 epochs
개발	MISHULTA (2026-08)

학습 데이터 (전량 공개 데이터, URL 명시)

1. STaR 자기증류 데이터 6,140건 — HAERAE-HUB/KMMLU train 스플릿 45개 전 과목 문제에 대해, 베이스 모델의 추론(think) 모드로 k-샘플링한 뒤 정답에 도달한 한국어 추론 과정만 선별(Self-Taught Reasoner 방식)
2. 교사 증류 데이터 498건 — 위 과정에서 베이스 모델이 풀지 못한 문제(실패셋)에 한해 DeepSeek-R1-0528로 한국어 풀이를 생성하고 정답 검증 통과분만 채택
3. (1차 실험) kuotient/orca-math-word-problems-193k-korean 일부

• KMMLU test 스플릿은 학습에 사용하지 않음 (train만 사용, 오염 없음)
• 학습 형식: 시험형 4지선다 프롬프트 + 추론 과정 + "정답: X" 결론 (추론 모드 형식 정렬)

평가 (자체측정, 0-shot generative, think 모드)

KMMLU test 5과목 샘플(과목당 25문제, seed 42):

모델	종합	Math	Chemistry	Accounting	Biology	Marketing
베이스 (think)	0.656	0.72	0.64	0.44	0.56	0.92
본 모델 (think)	0.696	0.72	0.64	0.64	0.56	0.92

참고: 베이스 공개 수치 — KMMLU 0.6649 / CLIcK 0.7208 (Think 모드, 네이버 모델카드)

사용법 (⚠️ 추론(think) 모드가 기본입니다)

이 모델의 chat template은 기본적으로 추론(think) 모드가 활성화되도록 설정되어 있습니다. 베이스 모델 대비 변경점: apply_chat_template 기본 동작이 assistant/think 오픈으로 시작합니다 (KMMLU 기준 think 모드가 +10%p 이상 우수). 비활성화하려면 skip_reasoning=True를 전달하세요.

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_id = "smllms/HyperCLOVA-X-SEED-MISHULTA-v1"
tok = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.bfloat16, device_map="auto")

messages = [{"role": "user", "content": "다음 문제의 정답을 고르시오. ..."}]
inputs = tok.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)
out = model.generate(inputs, max_new_tokens=2048, do_sample=False,
                     stop_strings=["<|endofturn|>", "<|stop|>"], tokenizer=tok)
print(tok.decode(out[0][inputs.shape[1]:], skip_special_tokens=True))

• 권장 생성 길이: max_new_tokens=2048 이상 (추론 과정 포함)
• 정답 추출: 출력 마지막의 정답: X 패턴

라이선스

베이스 모델의 HyperCLOVA X SEED Model License Agreement를 따릅니다. 라이선스 §3.1에 따라 파생 모델명은 "HyperCLOVA X"로 시작합니다.

팀

• MISHULTA — 미술전시 큐레이션 서비스 운영팀. K-DS 해커톤(NIA) 참가.