Au début de l'opération Barbarossa en , son régiment fait partie du groupe d'armées Sud et part de Roumanie vers l'Ukraine, progressant en direction du Dniepr. Faisant partie de la  de Erich von Manstein, il participe au siège et à la prise de Sébastopol en : sur un effectif de , il lui en reste 349 (ou 349) à la fin des combats ; il est en outre blessé au bras. Il est promu "Generalmajor" (général de brigade) peu après et prend le commandement de la d'infanterie. Prêt à tout pour vaincre les Russes à Sébastopol, il n'hésita pas à obliger des prisonniers russes à porter les munitions jusqu'aux canons : naît ainsi la plaisanterie selon laquelle les Russes chargeaient eux mêmes les canons qui détruiront leurs maisons. Le , il est promu "Generalleutnant" (général de division) et commande pendant deux mois la  impliquée avec Erich von Manstein dans une contre-attaque en direction de Kharkov, puis il participe à la bataille de Koursk. Ses affectations sur le front de l'Est manquent ensuite de précision — il n'y consacre que deux paragraphes dans ses "Mémoires", et il se peut que ce soit la période pendant laquelle il a directement contribué à la politique d'extermination nazie ainsi qu'une politique de terre brulée.