Када је почела Немачка инвазија на Совјетски Савез, јуна 1941, Москаленко је био командант антитенковске бригаде. Између јуна 1941, и марта 1942, Москаленко је био командант следећих формација, овим редом: 1. антитенковска бригада, XV стрељачки корпус, 6. армија, и VI коњички корпус. Био је командант реформисане 38. армије од марта до јула 1942. Затим је био командант 1. тенковске армије (јули - август 1942.), 1. гардијске армије (август - октобар 1942.), пре него што је коначно добио команду над 40. армијом, што је дужност коју ће држати до октобра 1943. Москаленко је предводио своје трупе током зимске противофанзиве и током Курске битке. Због бројних доприноса у многим кључним биткама, као што су Московска, Стаљинградска, и Курска битка, Москаленко је добио звање Хероја Совјетског Савеза.