L'agost de 1942 va ser nomenat cap de l'Estat Major del 1r Exèrcit de la Guàrdia, però dies després va ser cridat amb caràcter d'urgència perquè es dirigís a Stalingrad, on va ser nomenat cap de l'estat major del 62è Exèrcit, que realitzà una guerra urbana durant mesos pels carrers de la ciutat. Abans de l'arribada d'un nou comandant, el general V.I. Txuikov, va comandar l'exèrcit pràcticament durant tot un mes. Durant la batalla de Stalingrad, Krilov i el seu destacament es van quedar a la ciutat, tot i que el quarter general de l'exèrcit estava situat només a 800 metres de les posicions alemanyes. Després de la victòria a Stalingrad, Krilov va ser nomenat comandant del 3r Exèrcit de Reserva. Des de juliol de 1943 va ser comandant del 21è Exèrcit al Front Occidental. Al setembre és promogut a tinent general i l'octubre és nomenat comandant del 5è Exèrcit, participant en l'Operació Orxa i a l'ofensiva de Vtebsk. El seu exèrcit va passar a formar part del 3r Front de Bielorússia, participant en l'operació Bagration el 1944, atacant amb èxit a Vítsiebsk, Orxa, Minsk, van irrompre a Vílnius i van rebutjar els atacs enemics a Kaunas. Per l'èxit de l'operació Bagration va ser guardonat amb el títol d'Heroi de la Unió Soviètica i va ser promogut al rang de coronel general. A finals de 1944 va estar dos mesos a un hospital de Moscou per tractar-se velles ferides, tornant al front i distingint-se a l'Ofensiva de Prússia Oriental. Pels seus èxits tornaria a rebre el títol d'Heroi de la Unió Soviètica.