kev-4b-massive-zh
在 jaredpalmer/kev-4b v1.0 基础上，用 MASSIVE zh-CN（60 个意图）train 集做 LoRA 微调。
- 基座：
Qwen/Qwen3.5-4B-Base@1001bb4d826a52d1f399e183466143f4da7b741b - 初始化：
jaredpalmer/kev-4b@6cfce5c2fa4b4bd64026336ab649c5ca78857d52 - 数据：
mteb/amazon_massive_intent/zh-CN@940fd47a - 训练：1 epoch，lr 2e-05，batch 2 × accum 4，seed 42，bf16
- LoRA：r=16，alpha=32，dropout=0.05
test 集结果（2,974 条，bf16 评估）
| 指标 | 微调前 | 微调后 |
|---|---|---|
| Accuracy | 68.59% | 86.52% |
| Macro-F1 | 0.6740 | 0.8144 |
| NLL | 1.248 | 0.526 |
| ECE | 19.47% | 4.64% |
| Brier | 0.479 | 0.205 |
使用
python -m kev.serve --run warjiang/kev-4b-massive-zh@v1 --host 0.0.0.0 --port 8009
- Downloads last month
- 15
Model tree for warjiang/kev-4b-massive-zh
Base model
Qwen/Qwen3.5-4B-Base