Karrièren startet opp i januar 1948, da han – fremdeles som student hos Hermann Weissenborg – første gang sang Schuberts for RIAS. Samme år ble han ansatt ved operaen i Berlin, og i 1949 utgav han sin første plate med Brahms-sanger. Det året gjestet han operascener i München og Wien. I 1951 debuterte han på festspillene i Salzburg under Wilhelm Furtwängler, og samme på festivalen i Edinburgh. I 1952 fulgte hans første turné i USA, og i 1954 opptrådte han for første gang på festspillene i Bayreuth.