Graziani var den eneste italienske marskalken for forble lojal til Mussolini etter Dino Grandis kupp i Det store fascistiske rådet. Han ble utnevnt til forsvarsminister i Den italienske sosialrepublikk av Mussolini og hadde ansvaret for den kombinerte tysk-italienske armegruppen , kommandert av general Alfredo Guzzoni. Graziani lyktes å slå de allierte i slaget om Garfagnana i desember 1944.