Im Februar 1943 übernahm er, zum Generaloberst befördert, das Kommando über die im Januar neu formierte Südfront. Im weiteren Kriegsverlauf wurde er zum Armeegeneral befördert und führte ab März 1943 die Südwestfront, die im Oktober in 3. Ukrainische Front umbenannt wurde. Ab Mai 1944 Oberbefehlshaber der 2. Ukrainischen Front, führte er zusammen mit Marschall Tolbuchin Ende August 1944 die Operation Jassy-Kischinew durch. Im September 1944 wurde er zum Marschall der Sowjetunion befördert und nahm die Kapitulation der rumänischen Truppen entgegen. Seine Front stieß durch Siebenbürgen und Ungarn vor, begann Ende Oktober 1944 die Schlacht um Budapest und stand im Frühjahr 1945 an der Grenze der Slowakei. Ab April 1945 war er Vorsitzender der Alliierten Kontrollkommission für Rumänien. Im August 1945 übernahm er das Kommando über die Transbaikalfront, die er zusammen mit der Mongolischen Revolutionären Volksarmee erfolgreich bei der Operation Auguststurm gegen die japanische Kwantung-Armee anführte.