shieldgemma-9b-awq-4bit
Versão AWQ 4-bit de google/shieldgemma-9b.
Quantização
- Método: AWQ
- Bits: 4
- Group size: 128
- Biblioteca: GPTQModel
- Dataset de calibração: 500 amostras fixas do allenai/c4 (250 inglês + 250 português), as mesmas para todos os modelos quantizados nesta série.
Gerado automaticamente.
- Downloads last month
- 9
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support
Model tree for marcusnogueira/shieldgemma-9b-awq-4bit
Base model
google/shieldgemma-9b