Qwen3.8-27B-VMLU (Merged)

Mô hình Qwen/Qwen3.8-27B đã được finetune SFT LoRA bằng Megatron-SWIFT trên tập dữ liệu benchmark VMLU (8.195 câu hỏi thuộc 58 môn học) và hợp nhất (merged) hoàn chỉnh vào trọng số gốc.

Cấu hình Huấn luyện

• Phương pháp: Megatron-SWIFT LoRA SFT
• Parallelism: TP=2, PP=1, SP=True, DP=2 trên 4x NVIDIA A100-40GB
• Learning Rate: 2e-5 (min 2e-6, cosine schedule, warmup 0.05)
• LoRA Config: Rank 16, Alpha 16 (scale 1.0), dropout 0.05
• Target Modules: MLP (gate_proj, up_proj, down_proj) và Self-Attention (q_proj, k_proj, v_proj, o_proj)
• Dữ liệu: 8.195 mẫu VMLU đa lĩnh vực (STEM, Social Science, Humanities, Other)

Cách sử dụng

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "huyhoangvbck/Qwen3.8-27B-VMLU"

tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    dtype=torch.bfloat16,
    device_map="auto",
    trust_remote_code=True
)

prompt = "Hãy chọn một đáp án đúng duy nhất (A, B, C hoặc D) cho câu hỏi sau.\n..."
messages = [{"role": "user", "content": prompt}]
inputs = tokenizer.apply_chat_template(messages, tokenize=True, return_tensors="pt", add_generation_prompt=True, enable_thinking=False).to("cuda")

outputs = model.generate(inputs, max_new_tokens=512, do_sample=False)
print(tokenizer.decode(outputs[0][inputs.shape[1]:], skip_special_tokens=True))