I 1941, i den første fasen av det tyske angrep på Sovjetunionen, var Vlasov sjef for det 4. mekaniserte korps og kjempet mot tyskerne på den sovjetiske sørvestfronten. Han førte deretter kommandoen over den sovjetiske 37. armé som forsvarte Kyiv. Etter at byen var omringet ble Vlasov fløyet ut. I slaget ved Moskva i desember samme år kommanderte Vlasov den 20. armé og han var en av de mest fremgangsrike sovjetiske generalene under slaget. For sin innsats ble han omtalt blant annet i avisen den 13. desember 1941.