Etter felttoget i Polen var han i to år troppsjef i oppklaringsavdeling nr 45. Han deltok i slaget om Frankrike og i den følgende besettelsen av Frankrike. Fra juni 1941 deltok han i krigen mot Sovjetunionen og ble ved Orjol alvorlig såret i beinet. Han ble her tildelt Jernkorset og Østfrontmedaljen. Frem til 6. mars 1942 var han i Wien på sykepermisjon, og ble fra 14. mars sendt til tjeneste ved Wehrmachts 12. armé på Balkan. Her tilhørte han avdelingen til general Paul Bader, og tjenestegjorde som tolk ved hovedkvarteret ti den italienske fjellstyrken i Pljevlja i Montenegro hvor de kjempet sammen med Baders gruppe mot partisanene, hvor de samarbeidet med Ustasja og vasallstaten Den uavhengige staten Kroatia. 28. mai 1942 ble Waldheim overført til og var fra juni stasjonert ved dets hovedkvarter i Banja Luka.