A.X 4.0 Light — 4bit MLX

SKT A.X 4.0 LightApple MLX 4bit(group_size=64) 로 변환한 빌드입니다. 온디바이스 macOS 앱 MeetLog(회의 녹음·전사·요약)의 한국어 요약용으로 사용합니다.

변환

mlx_lm.convert --hf-path skt/A.X-4.0-Light --mlx-path <out> -q

가중치/토크나이저는 변경하지 않았고 양자화(4bit)만 적용했습니다.

출처 및 라이선스

  • 원본 모델: SKT A.X 4.0 Light (© SK Telecom) — Apache License 2.0
  • 베이스 아키텍처: Qwen2.5-7B (© Alibaba) — Apache License 2.0
  • 본 변환본 라이선스: Apache License 2.0 (원본과 동일)

원저작자(SKT, Qwen)에게 귀속되며, 변경 사항은 "4bit MLX 양자화 변환"입니다. Apache 2.0 전문: https://www.apache.org/licenses/LICENSE-2.0

Downloads last month
144
Safetensors
Model size
1B params
Tensor type
BF16
·
U32
·
MLX
Hardware compatibility
Log In to add your hardware

4-bit

Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for meetLog/A.X-4.0-Light-mlx-4bit

Quantized
(12)
this model