{ "opset": null, "optimization": {}, "optimum_version": "1.4.1.dev0", "quantization": { "activations_dtype": "QInt8", "activations_symmetric": false, "format": "QDQ", "is_static": true, "mode": "QLinearOps", "nodes_to_exclude": [ "Sub_471", "Add_504", "Pow_333", "Add_241", "Erf_239", "Add_418", "Mul_479", "ReduceMean_310", "Div_502", "ReduceMean_142", "Div_256", "Sqrt_255", "ReduceMean_498", "Mul_162", "Add_159", "ReduceMean_494", "Add_336", "Div_396", "ReduceMean_388", "Erf_321", "Sqrt_313", "Mul_242", "Mul_397", "ReduceMean_170", "ReduceMean_228", "Mul_585", "Add_141", "ReduceMean_556", "Sub_577", "Div_338", "Add_340", "Add_165", "Add_94", "Add_305", "ReduceMean_392", "Add_387", "Mul_160", "Div_156", "Div_92", "ReduceMean_580", "Mul_490", "ReduceMean_412", "ReduceMean_88", "Mul_339", "Div_314", "Pow_579", "Add_586", "Mul_324", "Pow_555", "Div_420", "Sub_389", "ReduceMean_416", "Mul_326", "Div_238", "Mul_572", "ReduceMean_84", "Pow_251", "Add_558", "Sub_331", "Sqrt_149", "Add_487", "Add_398", "Sub_143", "Add_469", "Add_551", "Mul_503", "Sub_553", "Sqrt_231", "Mul_175", "Pow_169", "Pow_473", "ReduceMean_474", "Sqrt_395", "Add_312", "Add_422", "Erf_485", "Sub_495", "Add_148", "Pow_415", "Pow_497", "Sub_167", "Erf_403", "Div_150", "Pow_227", "Div_174", "Sub_413", "ReduceMean_252", "Add_230", "Div_484", "Mul_93", "Mul_151", "Add_394", "Add_493", "Add_247", "Mul_421", "Sub_225", "Div_560", "Sqrt_583", "ReduceMean_306", "Add_476", "Sqrt_419", "Sub_85", "Mul_406", "ReduceMean_166", "Mul_570", "Mul_315", "ReduceMean_576", "Pow_145", "Mul_408", "Add_258", "Add_405", "Add_575", "ReduceMean_470", "Mul_561", "Pow_87", "Add_254", "Add_562", "Sqrt_559", "Pow_309", "Add_411", "Sqrt_91", "Mul_257", "Add_500", "Add_83", "Add_323", "Sqrt_337", "Div_584", "Mul_488", "Sqrt_477", "ReduceMean_552", "Div_320", "Add_223", "Add_329", "Add_176", "Add_316", "Div_232", "Add_480", "Mul_244", "ReduceMean_146", "Add_90", "Erf_157", "Sub_307", "ReduceMean_224", "Erf_567", "ReduceMean_330", "Add_569", "Add_582", "Mul_233", "Sqrt_501", "Sqrt_173", "ReduceMean_248", "Pow_391", "Div_402", "Sub_249", "Add_172", "ReduceMean_334", "Div_566", "Div_478", "Add_152", "Add_234" ], "nodes_to_quantize": [], "operators_to_quantize": [ "MatMul", "Add" ], "per_channel": false, "qdq_add_pair_to_weight": true, "qdq_dedicated_pair": true, "qdq_op_type_per_channel_support_to_axis": { "MatMul": 1 }, "reduce_range": false, "weights_dtype": "QInt8", "weights_symmetric": true }, "transformers_version": "4.23.0.dev0", "use_external_data_format": false }