V januári 1944 bol po bojoch v oblasti Žitomiru nútený ustupovať ďalej na západ. Po bojoch pri Korsuni viedol v ťažkých podmienkach obranné boje pred početnejším a materiálne lepšie vybaveným nepriateľom až do 30. marca, kedy bol spolu s Ewaldom von Kleistom, veliteľom skupiny armád A, pozvaný do Obersalzbergu. Tam mu Hitler udelil meče k Rytierskemu krížu a oznámil mu, že velenie jeho skupiny armád zverí Walterovi Modelovi. Hitler bol v tej dobe nespokojný s Mansteinovou ústupovou taktikou a veril, že Model, dokáže vybičovať svojich vojakov k lepším výkonom v obrane. Podľa Mansteinovych memoárov sa tak zrejme Hitler rozhodol na naliehanie Himmlera, Göringa a Keitela. V máji 1945 sa vzdal britským vojskám maršala Montgomeryho.