Bring2It2On/gorani-9B-4bit

Gorani Model Card

소개 (Introduce)

이 모델은 번역을 위한 모델입니다. 한국 고유어의 정확한 번역을 생성하기 위해 한국어, 영어, 일본어의 언어 데이터를 혼합하여 unsloth/gemma-2-9b-it-bnb-4bit을 학습시켜 생성된 gorani-9B 입니다.
gorani는 현재 한국어, 영어, 일본어만 번역을 지원합니다.

모델 정보

• 개발자: Bring2It2On
• 모델 유형: Gemma를 기반으로 하는 9B 매개변수 모델인 gorani-9B
• 지원 언어: 한국어, 영어, 일본어
• 라이센스: Gemma

Training Hyperparameters

• per_device_train_batch_size: 8
• gradient_accumulation_steps: 1
• warmup_steps: 5
• learning_rate: 2e-4
• fp16: not is_bfloat16_supported()
• num_train_epochs: 3
• weight_decay: 0.01
• lr_scheduler_type: "linear"

📊 번역 평가 결과 비교

평가 지표	gemma-2-9B	Gorani
BERTScore (Precision)	0.8152	0.9232
BERTScore (Recall)	0.8010	0.9266
BERTScore (F1 Score)	0.8077	0.9246
COMET Score	0.8180	0.8389

학습 데이터

데이터셋 링크

학습 성능 비교

Training Results