Freden med Nazi-Tyskland var skrøbelig, og begge sider forberedte sig på krig. Krigen udbrød, da Aksemagterne under tysk overkommando invaderede Sovjetunionen den 22. juni 1941. De tyske tropper rykkede hurtigt frem, og ved efteråret havde den tyske hær besat Ukraine, belejret Leningrad og truede med at indtage Moskva. På trods af, at det lykkedes den Røde hær, at forsvare Moskva ved Slaget om Moskva i december 1941, havde tyskerne fortsat det strategiske initiativ i yderligere et år, hvor tyskerne bevægede sig mod syd-øst, hvor de nåede Volga. De to tyske nederlag ved Stalingrad og Kursk viste sig imidlertid afgørende for krigens udfald, idet Tyskland aldrig genvandt styrken til at gennemføre offensive operationer, hvorefter Sovjetunionen under resten af krigen havde initiativet.