README.md

# KoAlpaca-Polyglot-12.8B-ggml

KoAlpaca-Polyglot-12.8B 모델을 [ggml](https://github.com/ggerganov/ggml)을 사용하여 f16과 q5_0으로 양자화한 모델입니다. 
원본 모델은 [여기](https://huggingface.co/beomi/KoAlpaca-Polyglot-12.8B)서 확인하세요.

ggml 모듈이나 Ctransformers를 사용하여 로컬에서 실행할 수 있습니다.