În 1941 a comandat Grupul de Panzere Guderian în Operațiunea Barbarossa, invadarea de către Germania a Uniunii Sovietice, primind Crucea de cavaler cu Frunze de Stejar în luna iulie a aceluiași an. Din 5 octombrie 1941 a condus A doua armată Panzer. În timpul campaniei Barbarossa, a condus forțele Panzer în avansări rapide, conform cu doctrina Blitzkrieg și a fost poreclit de soldații săi "Schneller Heinz" (Heinz cel Rapid). Avangarda sa de blindate a capturat orașul Smolensk într-un timp remarcabil de scurt și era pregătită de asaltul final asupra Moscovei când i s-a ordonat să se îndrepte spre Kiev (vezi decizia Loetzen). I s-a luat comanda pe 25 decembrie 1941 pentru că a ordonat o retragere, în ciuda ordinului lui Adolf Hitler, și trecut în rezervă în "Oberkommando des Heeres"'.