Kleist ble overbefalshaver av den 22. november 1942 og 1. februar 1943 generalfeltmarskalk. Etter flere tilfeller av uenighet med Hitler om krigføringen i øst, ble Kleist i mars 1944 avskjediget og erstattet av Ferdinand Schörner. I kjølvannet av 20. juli-attentatet ble Kleist arrestert, men til forskjell fra sin slektning Ewald von Kleist-Schmenzin, som var involvert i den tidligere septembersammensvergelsen og hadde nær kontakt med Goerdeler-kretsen, ble Kleist senere satt fri.