מכל מקום, ב-25 במרץ 1944 במהלך נסיגה של וורמאכט במהלך מבצע דנייפר-קרפטי של הצבא האדום איבד היטלר את שארית האמון במפקד הוותיק של צבאותיו. הוא נקרא להתייצב אל מול היטלר, ושם הגן על עמדותיו, תוך שהוא טוען כי לא יימצא מפקד כשיר ממנו לקבוצת הארמיות. כעבור שלושה ימים פוטר מתפקידו, וביחד עמו מפקדים נוספים בגיזרה כאוואלד פון קלייסט והרמן הות. הוא הוחלף בתפקידו על ידי הגנרל ולטר מודל, נאצי ותיק. כניחומים, הוענקו חרבות לעיטור צלב האבירים אותו נשא. מאנשטיין עצמו טען כי פיטוריו היו בשל השפעתם השלילית של הימלר וגרינג על היטלר, וכי מקורן של הפקודות הכושלות אותן חילק היטלר בשלב זה של המלחמה הוא בהימלר ובגרינג.