HyperCLOVA-X-SEED-MISHULTA-v2

팀 MISHULTA (K-DS 해커톤 참가)의 한국어 추론 강화 파인튜닝 모델 v2입니다. 베이스 모델은 네이버의 HyperCLOVAX-SEED-Think-14B (국내 기업 개발 모델)입니다. v1(HyperCLOVA-X-SEED-MISHULTA-v1) 대비 다단계 추론·상식 추론 능력을 크게 강화했습니다.

모델 개요

항목	내용
베이스 모델	naver-hyperclovax/HyperCLOVAX-SEED-Think-14B
파라미터	14.8B (dense, 텍스트 전용 가중치)
학습 방법	QLoRA(4bit NF4) SFT → 어댑터 병합(bf16)
LoRA 구성	r=64, α=128, RSLoRA, 7개 모듈, 2 epochs, 12,613 예제
개발	MISHULTA (2026-08)

학습 데이터 (전량 공개 데이터·자체 합성, URL 명시)

1. 자기증류(STaR) 6,140건 — HAERAE-HUB/KMMLU train 스플릿 45개 전 과목에서 베이스 모델의 추론(think) 모드 k-샘플링 후 정답 도달 한국어 추론만 선별
2. 교사 증류 5,329건 — 자기증류 실패 문항에 대해 DeepSeek-R1-0528·Solar Pro 4로 한국어 풀이 생성 후 정답 검증 통과분만 채택 (KMMLU 실패셋 + Com2 훈련셋 한국어화 4,331건)
3. 다단계 추론 합성 1,131건 — MuSR 유형(위치 추적·팀 배정)을 본뜬 프로그램 생성 한국어 문항(정답 프로그램 보장, 원본 MuSR/Ko-MuSR 문항 미사용 = 오염 없음)에 대한 자기증류 CoT

• KMMLU test 스플릿 미사용, Com2 벤치 본체(main/hard)와 겹치는 문항 제외, Ko-MuSR 문항 미사용 — 평가 오염 없음

평가 (자체측정, 0-shot generative, think 모드)

벤치	v1	v2 (본 모델)
SNU Ko-MuSR (공식, 3태스크×40)	0.383	0.525 (+14.2%p)
└ murder mysteries	0.475	0.65
└ team allocation	0.425	0.60
KMMLU 5과목 샘플	0.696	0.592
KMMLU 확장 10과목 샘플	0.66	0.64

v2는 다단계 추론(MuSR류)·상식 추론에 특화되어 v1 대비 큰 폭으로 개선되었으며, 지식형(KMMLU)은 v1이 우위입니다. 용도에 따라 v1/v2를 선택하세요.

사용법 (⚠️ 추론(think) 모드가 기본입니다)

chat template 기본 동작이 assistant/think 오픈입니다. 비활성화: skip_reasoning=True.

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_id = "smllms/HyperCLOVA-X-SEED-MISHULTA-v2"
tok = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.bfloat16, device_map="auto")

messages = [{"role": "user", "content": "다음 문제의 정답을 고르시오. ..."}]
inputs = tok.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)
out = model.generate(inputs, max_new_tokens=2048, do_sample=False,
                     stop_strings=["<|endofturn|>", "<|stop|>"], tokenizer=tok)
print(tok.decode(out[0][inputs.shape[1]:], skip_special_tokens=True))

라이선스

베이스 모델의 HyperCLOVA X SEED Model License Agreement를 따릅니다. 라이선스 §3.1에 따라 파생 모델명은 "HyperCLOVA X"로 시작합니다.

팀

• MISHULTA — 미술전시 큐레이션 서비스 운영팀. K-DS 해커톤(NIA) 참가.