Instructions to use meetLog/A.X-4.0-Light-mlx-4bit with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- MLX
How to use meetLog/A.X-4.0-Light-mlx-4bit with MLX:
# Download the model from the Hub pip install huggingface_hub[hf_xet] huggingface-cli download --local-dir A.X-4.0-Light-mlx-4bit meetLog/A.X-4.0-Light-mlx-4bit
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- LM Studio
A.X 4.0 Light — 4bit MLX
SKT A.X 4.0 Light 를 Apple MLX 4bit(group_size=64) 로 변환한 빌드입니다. 온디바이스 macOS 앱 MeetLog(회의 녹음·전사·요약)의 한국어 요약용으로 사용합니다.
변환
mlx_lm.convert --hf-path skt/A.X-4.0-Light --mlx-path <out> -q
가중치/토크나이저는 변경하지 않았고 양자화(4bit)만 적용했습니다.
출처 및 라이선스
- 원본 모델: SKT A.X 4.0 Light (© SK Telecom) — Apache License 2.0
- 베이스 아키텍처: Qwen2.5-7B (© Alibaba) — Apache License 2.0
- 본 변환본 라이선스: Apache License 2.0 (원본과 동일)
원저작자(SKT, Qwen)에게 귀속되며, 변경 사항은 "4bit MLX 양자화 변환"입니다. Apache 2.0 전문: https://www.apache.org/licenses/LICENSE-2.0
- Downloads last month
- 144
Model size
1B params
Tensor type
BF16
·
U32 ·
Hardware compatibility
Log In to add your hardware
4-bit
Model tree for meetLog/A.X-4.0-Light-mlx-4bit
Base model
skt/A.X-4.0-Light