A finales de 1941 retornó a Europa para tomar parte en la Operación Barbarroja, al mando del Regimiento de Infantería n.º 76 en la carga hacia el Este en la Unión Soviética, por la cual recibió la Cruz de Caballero de la Cruz de Hierro en enero de 1942. De abril a mayo de 1942 brevemente comandó la 254ª Brigada de Infantería, antes de ser elegido para el mando de la 8ª División Jaeger a mediados de 1942 en el frente oriental. A partir de noviembre de 1942 comandó la 16ª División Panzer de Granaderos en el frente oriental (siendo promovido al rango de teniente-general en junio de 1943), viéndose envuelto en los combates alrededor de Stalingrado, y subsiguientemente le fueron concedidas las Hojas de Roble y también las Espadas de la Cruz de Hierro (presentadas personalmente por Adolf Hitler en una ceremonia en el Berghof a la llegada de Schwerin a Alemania) por su manejo de la División durante la retirada de Rusia mientras era acosada por fuerzas perseguidoras abrumadoras soviéticas.