shieldgemma-9b-gptq-8bit
Versão GPTQ 8-bit de google/shieldgemma-9b.
Quantização
- Método: GPTQ
- Bits: 8
- Group size: 128
- Biblioteca: GPTQModel
- Dataset de calibração: 500 amostras fixas do allenai/c4 (250 inglês + 250 português), as mesmas para todos os modelos quantizados nesta série.
Gerado automaticamente.
- Downloads last month
- 6
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support
Model tree for marcusnogueira/shieldgemma-9b-gptq-8bit
Base model
google/shieldgemma-9b