Im August 1942 übernahm Schumilow das Kommando über die 64. Armee, die seit September den südwestlichen Stadtrand von Stalingrad verteidigte. Nachdem deutsche Truppen an der Naht zur 62. Armee durchgebrochen waren und Kuporosnoje verloren war, startete Schumilows Armee wiederholt Gegenangriffe gegen die Flanken der deutschen Angriffskeile. Am 31. Dezember 1942 wurde er in den Rang eines Generalleutnants erhoben und beteiligte sich im Januar 1943 als Teil der Donfront an der Vernichtung der deutschen 6. Armee. Nach dem Ende der Schlacht von Stalingrad wurde die 64. Armee zur Woronesch-Front versetzt und führte im Frühjahr 1943 entlang des Sewerski Donez im Raum Belgorod Verteidigungskämpfe durch. Auf Anweisung des Oberkommandos vom 16. April 1943 hin wurde seine Armee für ihre erfolgreichen Kampfeinsätze in 7. Gardearmee umbenannt. Anschließend bewährten sich Schumilows Truppen im Juli 1943 in der Schlacht von Kursk und beim Vorstoß zum Dnjepr. Am 20. Oktober 1943 wurde er aufgrund seiner Verdienste zum Generaloberst ernannt und sechs Tage darauf mit den Ehrentitel Held der Sowjetunion ausgezeichnet. Von Beginn des Jahres 1944 bis zum Kriegsende im Mai 1945 stand die 7. Gardearmee fast ununterbrochen im Kampf und nahm an den Operationen bei Kirowograd, Uman-Botosani, Jasi-Kischinew, Debrecen, Budapest, Bratislava-Brünn und an der Prager Offensive teil. In der Schlussphase des Zweiten Weltkriegs stand Schumilow bei der Organisation der neuen rumänischen Armee beratend zur Seite und bemühte sich um den Ausgleich zu den im Krieg bis dahin gegnerischen rumänischen Soldaten und Offizieren.