În 1941 Salmuth a fost trimis pe Frontul de Est în calitate de comandant al Corpului de Armată XXX. A participat la acțiunile militare din cadrul Operațiunii Barbarossa și a luat parte la Bătălia de la Sevastopol. La fel ca toate corpurile germane de pe Frontul de Est, corpul lui Salmuth a pus în aplicare Directiva pentru tratamentul comisarilor politici sovietici. A fost decorat pe 19 septembrie 1941 cu Ordinul „Mihai Viteazul” cl. III-a „pentru destoinicia, devotamentul și bravura personală de care au dat dovadă în luptele contra bolșevicilor în colaborare cu trupele române”. În 1942 Salmuth a fost numit comandant interimar al Armatei a 17-a (20 aprilie - 1 iunie 1942). Pentru o scurtă perioadă de timp, din 6 iunie 1942 până în 15 iulie 1942, a fost repartizat comandant al Armatei a 4-a, înlocuindu-l pe fostul comandant, Gotthard Heinrici, care plecase în concediu. La mijlocul lunii iulie a anului 1942 a primit comanda Armatei a 2-a.