6d9c115 d2b4179 f05e17f d2b4179 6d9c115
1
2
3
4
5
6
{ "quantization_config": { "bits": 4, "quant_method": "awq" } }