Han var medlem av koret ved Stuttgart statsopera fra 1927 til 1934. Hans første solo-rolle var i Coburg i 1934–35, fulgt av Freiburg (1936–40) og Königsberg (1938) hvor Karl Böhm oppdaget ham og engasjerte ham for statsoperaen i Dresden i 1941, som var basen hans det neste tiåret. I 1950 flyttet han til Deutsche Oper Berlin, men hans internasjonale karriere førte ham til alle de ledende operahusene i Europa.