finetuning-lora

unsloth/gemma-3-4b-it를 LoRA로 파인튜닝한 어댑터입니다. 한국어 캐릭터(말투/톤) 롤플레이 대화 데이터로 SFT를 진행해, 지정한 캐릭터의 말투로 답하도록 만들었습니다.

학습 설정

항목	값
Base model	unsloth/gemma-3-4b-it (4bit 양자화 로드)
방식	LoRA (r=8, alpha=8), 언어 모델 레이어만 학습
프레임워크	Unsloth + TRL (SFT)
데이터	huggingface-KREW/korean-role-playing의 exa-data (Apache 2.0, 한국어). 512토큰 이하 888개를 train 710 / valid 89 / test 89로 분할

사용 방법

from unsloth import FastModel

model, processor = FastModel.from_pretrained(
    model_name="esomnmms/finetuning-lora",
    load_in_4bit=True,
)

라이선스

Base model인 Gemma 3의 Gemma Terms of Use를 따릅니다.

코드

학습 노트북과 데이터 처리 코드: https://github.com/mnmms/sojeong-finetuning