Den 4 december 1941 fick Heinz Harmel befälet över SS-Infanterie Regiment Deutschland som under svåra vinterförhållanden bekämpade den sovjetiska vinteroffensiven. I juni 1942 förflyttades regementet till Frankrike för vila och reorganisation. I början av 1943 flyttades Harmel och hans regemente åter till östfronten och deltog i Tredje slaget vid Charkov. Under dessa strider befann sig Harmel i sin pansarvagn, ofta i täten för anfallsformationerna. För sina insatser under slaget förlänades han med Riddarkorset och dessutom en utmärkelse, "Panzervernichtungsabzeichen", för att personligen med lätta infanterivapen ha slagit ut en fientlig stridsvagn.