Po napadnutí Sovietskeho zväzu nacistickým Nemeckom sa vyznamenal v bojoch pri Ľvove a bol menovaný za veliteľa 37. armády brániacej Kyjev. Pri ústupe z Ľvova sa musel prizerať ako jednotky NKVD pobili ukrajinských politických väzňov, ktorých už nemali možnosť evakuovať, namiesto toho aby ich prepustili, alebo použili v boji proti Nemcom. Niektorí považujú práve túto skúsenosť so skutočnou tvárou Stalinovho režimu, za prvú ktorá ho viedla na dráhu neskoršieho boja po boku nacistov. 37. armáda bola jedna z najsilnejších sovietskych armád (mala asi 100 000 mužov), ktorej bola zverená veľmi dôležitá úloha obrana západne od Kyjeva. V dôsledku chybných rozhodnutí sovietskeho najvyššieho velenia však bolo mesto v dôsledku nemeckých obchvatných manévrov stratené. Rozkaz na ústup prišiel neskoro a sovietske jednotky neboli schopné bez prípravy organizovane ustupovať na čiaru k mestu Romny. Naviac jeho armáda ako najzápadnejšie dislokovaná mala najmenšiu šancu sa prebiť na východ. Po ťažkých bojoch, v ktorých bol ranený, sa napokon s nepatrnými zvyškami svojich jednotiek dokázal prebiť na východ k svojim ako jeden z posledných. Po doliečení ho Stalin v novembri 1941 poveril sformovaním 20. armády určenej na obranu Moskvy. Začiatkom januára 1942 viedol úspešné protiútoky svojej armády pri Volokolamsku asi 100 km na severozápad od metropoly. Vlasov úspešne splnil vytýčené ciele a okrem ďalších vyznamenaní sa dočkal i povýšenia na generálporučíka.