Ikke-angrepspakten med Tyskland varte ikke lenger enn til 22. juni 1941 da Tyskland invaderte Sovjetunionen under kodeordet «Operasjon Barbarossa». Stalin hadde trolig forventet en militær konflikt uansett, men var ikke forberedt på at angrepet kom så tidlig. Utrolig nok tolket han etterretningsrapporter som tydelig advarte om en nært forestående tysk invasjon, som forsøk på manipulasjon av hans person. Forsvarskommissariatet skrev en ordre om «storalarm», og kl 00:30 ringte general Zjukov og opplyste ham om at en tredje tysk desertør, Alfred Liskow, en arbeider fra Berlin som også var kommunist, hadde svømt over elven Prut for å advare de sovjetiske grensevaktene om at hans enhet hadde fått ordre om å angripe. Stalin beordret tyskeren skutt på grunn av «feilinformasjon». Offiserene ville imidlertid se det an til neste dag, og da kom angrepet virkelig. Da krigen var et faktum, gjorde Stalin en rekke militære feilvurderinger som kostet Sovjetunionen svært dyrt i den første fasen av krigen. Ved invasjonen fikk landet bittert erfare konsekvensene av de omfattende utrenskningene i det sovjetiske offiserskorpset i 1930-årene. Mangelen på kompetent lederskap og uklare kommandolinjer skapte villrede og kaos. Den røde armé var dårlig trent og utstyrt. Til tross for at den ved krigsutbruddet talte 4,8 millioner mann, gjorde den dårlige organiseringen at hæravdelingene raskt ble drevet på flukt og mange steder gikk helt i oppløsning. Wehrmacht tok hundretusener av fanger de første månedene og nådde utkanten av Moskva i desember 1941. Da krigslykken gradvis snudde utover i 1942, skyldtes dette hovedsakelig en omorganisering av det sovjetiske offiserskorpset, blant annet ved at arresterte offiserer ble benådet og sendt til fronten. Tvangsutskriving av sivile og fanger sikret en nærmest ubegrenset tilgang på nye rekrutter. Betydelige leveranser av militært utstyr fra de vestlige allierte spilte også en viktig rolle. Sovjetiske soldater hadde imidlertid ordre om å fortelle lokalbefolkningen at utstyr merket «Made in the USA» egentlig betød «Lagd i (Sovjet for å eksporteres til) USA». Men få lot seg lure.