| { | |
| "use_habana_mixed_precision": true, | |
| "hmp_opt_level": "O1", | |
| "hmp_is_verbose": false, | |
| "use_fused_adam": true, | |
| "use_fused_clip_norm": true, | |
| "log_device_mem_alloc": false, | |
| "hmp_bf16_ops": [ | |
| "add", | |
| "addmm", | |
| "bmm", | |
| "div", | |
| "dropout", | |
| "gelu", | |
| "iadd", | |
| "linear", | |
| "layer_norm", | |
| "matmul", | |
| "mm", | |
| "rsub", | |
| "softmax", | |
| "truediv" | |
| ], | |
| "hmp_fp32_ops": [ | |
| "embedding", | |
| "nll_loss", | |
| "log_softmax" | |
| ] | |
| } | |