AX_NPU_VL3_2B_mxq — Qwen3-VL-2B NPU(ARIES) 배치32 산출물

validation_server_bs32 가 바로 받아 쓰는 모델 디렉토리를 변형별로 담았다. mxq 만 들어 있는 게 아니라 호스트가 들고 있어야 하는 지원 파일까지 포함한 완성본이다.

폴더	내용	가중치
bs32/model/	벤더(Mobilint) 배치32 빌드	스톡 Qwen/Qwen3-VL-2B-Instruct
ft/model/	사내 재컴파일 빌드	PIA-SPACE/AX_NPU_VL3_2B (학습본)

쓰는 법

서버는 환경변수 둘로 가리킨다. 같은 이미지·같은 코드에서 폴더만 바꾸면 된다.

MODEL_HF_REPO=PIA-SPACE/AX_NPU_VL3_2B_mxq \
MODEL_HF_PREFIX=ft/model \
HF_TOKEN=hf_xxx python download_model.py        # bs32 를 쓰려면 PREFIX=bs32/model

받은 디렉토리를 컨테이너 /app/assets/model/... 로 마운트하고 NPU_PE_2STAGE_VLM_MODEL_DIR 로 지정한다.

두 빌드의 관계

같은 NPU 런타임(qbruntime 1.4.0+repack1)·같은 컴파일러(qbcompiler 1.3.4+pia.capacity3) ·같은 레시피(batch32 / W4 decoder / W8 vision)로 만들었다. NPU 실측에서 라벨 전부 일치, 지연 ±1.5% 로 동등하다.

ft/ 는 사내에서 체크포인트부터 직접 export·컴파일한 것이다. 벤더가 준 .mblt 로 만든 bs32/ 와 달리 그래프의 I/O 이름·순서가 달라서, 서버 쪽 호환 어댑터 (validation_server_bs32/artifact_order.py)가 필요하다. 어댑터는 bs32/ 에 대해서는 항등으로 동작하므로 둘을 같은 코드로 서빙할 수 있다.

빌드 절차와 근거: AX_NPU 레포 reports/NPU_qwen3vl_mblt_export.md