andyroiiid/llama-3.2-3b-instruct-gguf

Llama 3.2 3B Instruct GGUF model file

python llama.cpp\convert_hf_to_gguf.py llama-3.2-3b-instruct --outfile llama-3.2-3b-instruct.gguf --outtype q8_0