En , Hans von Salmuth est envoyé sur le front de l'Est avec le XXX Corps d'armée, où il participe à l'opération Barbarossa et commande en Crimée. Le XXX Corps de von Salmuth prend part avec succès à la bataille de Sébastopol. En 1942, il est nommé commandant de la armée allemande, du au . Pour un court laps de temps, du au , on lui confie le commandement de la armée, en remplacement de l'ancien commandant, Gotthard Heinrici. À la mi-, il est nommé commandant de la armée allemande. Avec la armée, il participe à l'offensive d'été dans le Groupe d'armées B, sous le commandement de Maximilian von Weichs. Même s'il désapprouve les ordres qu'il reçoit, il les applique en soldat, apportant son soutien logistique au SS Einsatzgruppen, et ordonnant la répression contre les partisans soviétiques. Au plus fort de la tourmente, en janvier 1943, Hans von Salmuth est promu Generaloberst, général d'armée, et reçoit l'ordre de tenir ses positions jusqu'à la dernière limite. Ne pouvant obéir à un ordre suicidaire, alors que son armée est sur le point de s'effondrer, Salmuth se replie tactiquement avec ses hommes, peu avant la capitulation de Stalingrad. Le , il remet le commandement de la armée au général Walter Weiss, avant d'être placé dans la Führerreserve.