Create config.json

config.json

@@ -0,0 +1,5 @@
+{
+  "model_type": "phi",
+  "quantization": "4bit",
+  "task": "text-generation"
+}