物流通 · Logistics LoRA for Qwen3-14B

物流行业智能助手的 LoRA 适配器(PEFT 格式,v2)。配合知识库检索与业务工具使用,覆盖客服问答、单据/地址抽取、路径调度、行业知识四类场景。

  • 基座:Qwen/Qwen3-14B(混合推理模型;业务场景建议 enable_thinking=False
  • LoRA:r=8,alpha=160,作用于后 16 层的 q/k/v/o/gate/up/down
  • 训练:mlx_lm LoRA 600 步(≈1 epoch,1372 条样本),Val loss 0.064(验证集与训练集按用户问题分组切分、零泄漏)
  • 数据:教师问答人工精编 127 条(含数值比较靶向题);地址样本用真实省市区;含 41 条工具失败/边界轨迹
  • 评测(项目自带 20 例规则评测):基座+RAG+工具 0.800 → 本适配器 1.000(20/20)

上一代(Qwen2.5-7B 基座,0.880):logistics-qwen-lora

使用

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel

base = "Qwen/Qwen3-14B"
tok = AutoTokenizer.from_pretrained(base)
model = AutoModelForCausalLM.from_pretrained(base, dtype="auto", device_map="auto")
model = PeftModel.from_pretrained(model, "<本仓库ID>")
# 生成时模板传 enable_thinking=False,工具调用为 Qwen hermes JSON 格式

完整应用(检索、10 个业务工具、Gradio/FastAPI):https://github.com/zhatrix/logicLLM

局限

演示用途;运单/网点数据为模拟数据。训练分布外的数值套档偶有错误。

Downloads last month
19
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for zhatrix/logistics-qwen3-lora

Finetuned
Qwen/Qwen3-14B
Adapter
(1173)
this model

Space using zhatrix/logistics-qwen3-lora 1