1941年6月22日早上4时45分，希特勒突然撕毁《苏德互不侵犯条约》，伙同匈牙利、罗马尼亚、芬兰等国军队，发动闪击苏联的巴巴罗萨作战计划。在此之前，斯大林已经收到来自一些苏联间谍和苏军将领的警告，但他认为纳粹德国不会冒着两线作战的危险，在彻底击败英国之前就进攻苏联，因此没有对同纳粹德国展开本土战争做充分的准备。在确认德军的入侵后，斯大林担任苏联国防委员会主席和苏联武装部队最高统帅，并於7月3日发表演说，号召苏联人民不仅要消除本国面临的危险，还要帮助解放在德国法西斯奴役下的欧洲各国人民。在德军的突然打击之下，同时因为大清洗带来的负面影响，苏军措手不及，损失惨重。德军入侵後一个月，占领的苏联领土相当於法国领土的两倍。而在8月，由于斯大林拒绝采纳格奥尔基·朱可夫的建议，下令红军死守基辅，结果导致苏军西南方面军在基辅战役中被德军围歼，纳粹德军宣布歼灭苏军66万人，希特勒宣称这是人类战争史上最大的歼灭战。1941年11月初，德国中央集团军逼近莫斯科城下，斯大林坚决留在城里组织反击。11月7日，斯大林命令苏联红军在莫斯科红场举行阅兵式，发表重要讲话，斯大林在这次讲话中提及的这些俄罗斯历史上的民族英雄的用意，是以俄罗斯民族主义来鼓舞苏军战斗。受阅的苏军部队随即从红场直接开赴前线。在格奥尔基·朱可夫、亚历山大·华西列夫斯基等将领的指挥下，苏军最终守住莫斯科，并在12月的反攻中将德军击退。莫斯科战役的胜利使德军的巴巴罗萨计划宣告破产，之後德军被迫改闪击战为持久战。