Neskôr velil Severozápadnému frontu. Bitky pri Kursku sa zúčastnil ako veliteľ Stepného frontu, ktorý bol držaný ako záloha pre nadchádzajúcu protiofenzívu. Jeho jednotky najprv upevnili sovietsku obranu a neskôr viedli protiútoky v záverečnej fáze bitky, následne oslobodili Belgorod, Charkov a prekročili Dneper. Neskôr velil 2. ukrajinskému frontu počas korsuň-ševčenkovskej operácie, kedy mu bol 20. februára 1944 udelený titul Maršal Sovietskeho zväzu. Neskôr jeho vojská vybojovali v ťažkých podmienkach bitku pri Kamenci Podolskom. V máji 1944 bol poverený vedením 1. ukrajinského frontu, ktorého vojská prekročili 26. marca 1944 hranice ZSSR a cez ľvovsko-sandomierzská ofenzívu porazili Skupinu armád Severná Ukrajina Josefa Harpeho. 29. júla 1944 mu bol udelený titul Hrdina Sovietskeho zväzu spolu so Zlatou hviezdou a Leninovým radom. Podieľal sa na uskutočnení visliansko-oderskej operácie v januári a februári 1945. Vojská pod jeho velením sa zúčastnili bitky o Berlín ako aj pražskej operácie, za čo mu neskôr v Prahe postavili pamätník, ktorý 3. apríla 2020 kvôli častým útokom vandalov premiestnili do depozitáru.