Aleksandr Wasilewski brał udział w planowaniu wojny zimowej. Od maja 1940 roku był zastępcą szefa wydziału operacyjnego Sztabu Generalnego, zaś od sierpnia 1941 roku szefem wydziału operacyjnego i I zastępcą szefa Sztabu Generalnego. Koordynował obronę rejonu Moskwy pod koniec 1941 roku i późniejszą kontrofensywę zimową. W maju 1942 roku na polecenie Józefa Stalina opracował plan, na podstawie którego przeprowadzono nieudaną kontrofensywę pod Charkowem. W czerwcu 1942 roku objął stanowisko szefa Sztabu Generalnego, a w październiku także stanowisko zastępcy ludowego komisarza obrony ZSRR. We wrześniu 1942 roku, wspólnie z Gieorgijem Żukowem zaplanował zimową ofensywę, w wyniku której Armia Czerwona odniosła zwycięstwo pod Stalingradem, odzyskała Kaukaz i odrzuciła daleko na zachód wojska niemieckie.