Cleveland nació en Caldwell, Nueva Jersey, siendo el quinto de los nueve hijos del Reverendo Richard Cleveland y su esposa Anne Neal, hija de un vendedor de libros de Baltimore.