Create quant_config.json

quant_config.json

@@ -0,0 +1,3 @@
+{
+    "w_bit": 4
+}