Podieľal sa na príprave operácie Zitadelle, ktorá sa nakoniec pre Nemcov neskončila úspešne. Nemecké vojská boli nútené na východnom fronte v priebehu rokov 1943 a 1944 ustupovať. V dôsledku Hitlerovej snahy čo najviac spomaľovať ústup a trvaní na statickej obrane sa s ním Zeitzler opakovane dostával do sporov. Päť krát v dôsledku Hitlerovho zákazu ustúpiť požiadal o odvolanie z funkcie, ktoré však Hitler neschválil. Po viacerých vzájomných ťažkých hádkach bol na konci svojich síl. Dňa 1. júla 1944 náhle opustil Hitlerovu rezidenciu v Berghofe. Tvrdil, že už ďalej nemohol vykonávať svoju funkciu pre zdravotné problémy. Hitler s ním už nikdy znovu neprehovoril, v januári 1945 ho nechal prepustiť z armády a zakázal mu právo nosiť uniformu. Vo funkcii náčelníka štábu ho nahradil Heinz Guderian.